Jalankan Klon ChatGPT Lokal dan Gratis di PC Windows Anda Dengan GPT4All
Table of content:
Chatbot AI offline telah hadir, dengan solusi baru, semakin serbaguna, dan lebih optimal bermunculan hampir setiap hari. Dari semuanya, GPT4All berada di dekat bagian atas.
Ada banyak alasan untuk mencobanya, seperti bagaimana GPT4All memungkinkan Anda mengobrol dengan dokumen Anda. Tidak perlu “melatihnya”, menggunakan server mahal, atau mendalami Python. Anda cukup “menambahkan dokumen Anda” ke GPT4All karena mereka akan “memperluas kumpulan pengetahuannya” dengan data Anda.
Mari kita lihat bagaimana Anda dapat menginstal dan menggunakan GPT4All di PC Windows Anda.
Apa Sorotan GPT4All?
Ada banyak alasan untuk memilih GPT4All daripada alternatif, termasuk ChatGPT.
- Anda dapat menjalankan GPT4All hanya menggunakan CPU PC Anda. Tidak perlu GPU yang kuat (dan mahal) dengan lebih dari selusin GB VRAM (meskipun dapat membantu).
- GPT4All adalah solusi offline sepenuhnya, sehingga tersedia bahkan saat Anda tidak memiliki akses ke Internet.
- Menjadi offline dan bekerja sebagai “aplikasi lokal” juga berarti semua data yang Anda bagikan tetap ada di komputer Anda—pembuatnya tidak akan “mengintip obrolan Anda”.
- Karena hanya mengandalkan PC Anda, itu tidak akan menjadi lebih lambat, berhenti merespons, atau mengabaikan permintaan Anda, seperti ChatGPT saat servernya kelebihan beban.
- GPT4All memungkinkan Anda untuk menambahkan dokumen Anda ke “kumpulan pengetahuan” dengan mudah. Itu kemudian dapat menyajikan informasi dari mereka dalam jawabannya, mengubahnya menjadi asisten pribadi sejati yang “tahu tentang barang-barang Anda” alih-alih chatbot umum.
Apakah Ini Pada Dasarnya Seperti Menginstal ChatGPT Secara Lokal?
Apakah Anda berdebat dengan chatbot atau menggunakan layanan seperti Copilot untuk membantu Anda menulis kode dengan mudah, Anda berinteraksi dengan model bahasa besar (LLM). Jika Anda tidak terbiasa dengan istilah tersebut, lihat artikel kami tentang apa itu LLM dan bagaimana cara kerjanya.
LLM “di belakang” ChatGPT adalah salah satu model tercanggih di dunia… tetapi juga besar, menuntut sumber daya, dan benar-benar eksklusif. Jadi, Anda tidak dapat “menginstal ChatGPT di PC Anda” karena:
- Sebagai solusi sumber tertutup, hanya pembuatnya, Open AI, yang dapat mengakses “bagian dalamnya” dan menjalankannya di server mereka.
- Ini sangat besar dan menuntut sehingga menjalankannya pada perangkat keras PC tingkat konsumen tidak mungkin dilakukan.
Tetap saja, Anda dapat menginstal dan menggunakan LLM lain melalui GPT4All di PC Anda, asalkan tidak terlalu menuntut pada CPU Anda atau cocok dengan VRAM GPU Anda yang lebih terbatas.
Ekosistem Nvidia untuk akselerasi perangkat keras AI umumnya dianggap lebih matang. Akibatnya, ada lebih banyak perangkat lunak Nvidia-sentris untuk tugas-tugas yang dipercepat GPU, seperti penyandian video dan, sekarang, Pembelajaran Mesin. GPT4All adalah salah satu alat yang “bermain lebih bagus” dengan GPU Nvidia.
Cara Install GPT4All
GPT4All tersedia untuk Windows, OSX, dan Ubuntu. Untuk artikel ini, kami akan menggunakan versi Windows.
- Unduh Pemasang Windows dari situs resmi GPT4All.
- Jalankan aplikasi yang diunduh dan ikuti langkah-langkah wizard untuk menginstal GPT4All di komputer Anda.
- Pemasang GPT4All perlu mengunduh data tambahan agar aplikasi berfungsi. Jadi jika penginstal gagal, coba jalankan kembali setelah Anda memberinya akses melalui firewall Anda.
- Saat Anda akhirnya melihat antarmuka GPT4All, Anda juga harus mengunduh Model Bahasa untuk menggunakannya. GPT4All akan memberi Anda daftar model yang tersedia. Periksa ukurannya (di sebelah namanya) untuk memastikan Anda memiliki cukup RAM atau VRAM untuk menjalankannya. Saat Anda memutuskan model, klik modelnya Unduh tombol untuk mengunduh dan menginstal GPT4All.
- Jika Anda berubah pikiran, klik Membatalkan tombol untuk menghentikan pengunduhan aktif dan memilih model lain.
- Untuk menghemat waktu, jika Anda ingin mencoba beberapa model, Anda dapat meminta GPT4All mengunduhnya secara paralel. Namun, perhatikan bahwa gigabyte dapat segera bertambah dan memastikan Anda memiliki ruang penyimpanan yang cukup untuk semua model yang Anda pilih.
Menjadi Akrab Dengan GPT4All
Dengan GPT4All terinstal dan beberapa LLM diunduh, kini Anda dapat mulai mengobrol dengan chatbot AI Anda sendiri.
- Gunakan menu tarik-turun di bagian atas jendela GPT4All untuk memilih Model Bahasa yang aktif.
- Menggunakan ikon burger di kiri atas untuk mengakses panel kontrol GPT4All.
- Opsi pertama pada panel GPT4All memungkinkan Anda membuat file Obrolan baru, ganti nama yang sekarang, atau sampah dia.
- Itu Pembaruan tombol memungkinkan Anda memperbarui aplikasi dan menambah atau menghapus komponen.
- Itu Download tombol memberi Anda akses ke Model Bahasa panel.
- Anda dapat menggunakan Model Bahasa panel untuk menginstal LLM baru, menghapus yang diinstal, dan mengubah jalur unduhannya.
- Mengobrol dengan LLM di GPT4All mirip dengan versi online ChatGPT. Ketik sesuatu di bidang masuk di bagian bawah jendela GPT4All, dan setelah menekan Enter, Anda akan melihat prompt Anda di tampilan utama GPT4All. Tanggapan Model Bahasa yang dipilih akan muncul di bawah permintaan Anda.
- Seperti halnya ChatGPT, jika Anda tidak menyukai tanggapan LLM yang dibuat di layar, Anda dapat mengeklik Berhenti Menghasilkan tombol untuk menghentikan proses.
- Demikian pula, jika Anda tidak menyukai tanggapan yang sudah dibuat dan ingin melihat tanggapan alternatif, Anda dapat mengeklik Regenerasi Respons tombol, yang muncul di tempat yang sama.
- Perhatikan bahwa GPT4All juga memungkinkan Anda mengakses apa yang dikenal sebagai Tidak dibatasi model bahasa. Itu tidak datang dengan batasan buatan. “Kebebasan” ini konon “membebaskan” dan “memberdayakan” mereka untuk lebih kreatif dan menawarkan tanggapan yang lebih faktual. Namun, itu juga berarti mereka dapat menghasilkan output ofensif.
- Dua tombol pertama di kanan atas aplikasi memungkinkan Anda melakukannya mengatur ulang percakapan atau menyalin ke clipboard untuk menempelkannya di tempat lain.
- Tombol ketiga (dengan ikon roda gigi) memberi Anda akses ke GPT4All Pengaturan.
- Itu Generasi tab Pengaturan GPT4All memungkinkan Anda mengonfigurasi parameter Model Bahasa aktif. Dengan mengubah variabel seperti itu Suhu Dan Ulangi HukumanAnda dapat menyesuaikan kreativitas, keringkasan, dan sebagainya.
- Itu Aplikasi tab memungkinkan Anda untuk memilih a Model Bawaan untuk GPT4All, tentukan a Unduh jalur untuk Model Bahasa, tetapkan nomor tertentu Utas CPU ke aplikasi, simpan setiap obrolan secara otomatis disimpan secara lokal, dan aktifkan internalnya server web agar dapat diakses melalui browser Anda.
Mengobrol Dengan Dokumen Anda Dengan GPT4All
Namun, fitur terbaik dari GPT4All adalah kemudahan untuk menambahkan dokumen Anda sendiri ke Model Bahasa pilihan Anda. Seperti yang kita lihat, itu mungkin untuk melakukan hal yang sama dengan ChatGPT, dan membuat ChatGPT khusus dengan data Anda sendiri. Namun, prosesnya jauh lebih mudah dengan GPT4All, dan bebas dari biaya penggunaan API ChatGPT Open AI.
- Tempatkan beberapa dokumen Anda dalam folder. Pastikan mereka dalam format file yang kompatibel secara luas, seperti TXT, MD (untuk Markdown), Doc, dll.
- Di GPT4All Pengaturan panel, pindah ke Plugin LocalDocs (Beta) halaman tab. Klik Jelajahi tombol dan arahkan aplikasi ke folder tempat Anda meletakkan dokumen. Kemudian klik Menambahkan untuk memasukkannya ke dalam daftar dokumen eksternal GPT4All.
- Anda akan melihat entri untuk folder dokumen Anda di GPT4All’s Plugin LocalDocs daftar dokumen. Jika Anda memutuskan untuk menghapus folder dokumen, pilih dari sini dan klik Menghapus tombol di kanannya.
- Dari tempat yang sama, Anda dapat men-tweak Ukuran cuplikan dokumen dan Cuplikan dokumen untuk diproses per prompt nilai dari kiri bawah panel. Meningkatkannya akan meningkatkan kemampuan Model Bahasa yang dipilih untuk “memahami” dokumen Anda dan menawarkan tanggapan yang lebih relevan. Namun, ini juga akan sangat memperlambat GPT4All karena harus menganalisis dokumen Anda setelah setiap perintah.
- Anda dapat mengelola dokumen eksternal Anda melalui GPT4All Koleksi tombol.
- Anda dapat menambahkan beberapa koleksi dokumen ke GPT4All. Namun, lebih baik daripada mengaktifkan semuanya sepanjang waktu, menyeret kinerja GPT4All ke bawah untuk mengontrol yang kumpulan dokumen (“koleksi”) yang ingin Anda aktifkan dari Koleksi panel.
- Setelah Anda menambahkan beberapa dokumen dan mengaktifkan koleksinya, GPT4All akan memberi tahu Anda bahwa itu pengolahan mereka setelah diminta.
- Setiap kali GPT4All menampilkan respons yang menarik data dari dokumen Anda, ia akan menawarkan daftar referensi Dan tautan konteks di bawah respons.
- Dengan mengklik a tautan konteksGPT4All akan menampilkan potongan teks dari dokumen Anda yang digunakan untuk tanggapannya.
ChatGPT Anda Sendiri di Windows
GPT4All dan model bahasa yang dapat Anda gunakan mungkin tidak cocok dengan ChatGPT yang dominan, tetapi masih berguna.
Pengguna kreatif dan pengotak-atik telah menemukan berbagai cara cerdik untuk menyempurnakan model tersebut sehingga meskipun mereka mengandalkan kumpulan data yang lebih kecil atau perangkat keras yang lebih lambat daripada yang digunakan ChatGPT, mereka masih dapat mendekatinya atau, dalam beberapa kasus, bahkan menyalipnya.
Alih-alih menjelaskan secara detail tentang pro dan kontra dari setiap model yang tersedia, mengapa Anda tidak mencobanya sendiri? GPT4All membuatnya mudah.