6 Masalah Besar Dengan ChatGPT OpenAI

ChatGPT adalah chatbot AI baru yang kuat yang cepat mengesankan, namun banyak orang telah menunjukkan bahwa ia memiliki beberapa jebakan serius. Tanyakan apa pun yang Anda suka, dan Anda akan menerima jawaban yang terdengar seperti ditulis oleh manusia, setelah mempelajari pengetahuan dan keterampilan menulisnya dari pelatihan tentang data dalam jumlah besar di internet.

Namun, seperti halnya internet, garis antara kebenaran dan fantasi tentu saja berubah-ubah, dan ChatGPT bersalah melakukan kesalahan lebih dari satu kali. Dengan ChatGPT diatur untuk mengubah masa depan kami, berikut adalah beberapa kekhawatiran terbesar kami.

Apa itu ChatGPT?

ChatGPT adalah model bahasa besar yang dirancang untuk menghasilkan bahasa alami manusia. Sama seperti bercakap-cakap dengan seseorang, Anda dapat berbicara dengan ChatGPT, dan ia akan mengingat hal-hal yang Anda katakan di masa lalu sekaligus mampu mengoreksi dirinya sendiri saat ditantang.

Baca Juga:

8 Cara Membuat Password yang Kuat dan Mudah Diingat

Itu dilatih pada semua jenis teks dari internet, pikirkan Wikipedia, posting blog, buku, dan artikel akademis. Artinya, selain merespons Anda dengan cara yang mirip manusia, ia dapat mengingat informasi tentang dunia kita saat ini, ditambah menarik informasi sejarah dari masa lalu kita.

Mempelajari cara menggunakan ChatGPT itu sederhana, dan mudah tertipu dengan berpikir bahwa sistem AI bekerja tanpa masalah. Namun, pada bulan-bulan setelah perilisannya, orang-orang di seluruh dunia mendorong AI chatbot hingga batasnya untuk mengungkap beberapa masalah utama.

1. ChatGPT Menghasilkan Jawaban yang Salah

Itu gagal dalam matematika dasar, sepertinya tidak bisa menjawab pertanyaan logika sederhana, dan bahkan akan memperdebatkan fakta yang sepenuhnya salah. Seperti yang akan dibuktikan oleh orang-orang di media sosial, ChatGPT dapat melakukan kesalahan lebih dari satu kali.

OpenAI mengetahui tentang batasan ini, menulis bahwa: “ChatGPT terkadang menulis jawaban yang terdengar masuk akal tetapi salah atau tidak masuk akal.” “Halusinasi” fakta dan fiksi ini, seperti yang telah disebutkan, sangat berbahaya jika menyangkut hal-hal seperti saran medis, atau mendapatkan fakta yang benar tentang peristiwa sejarah utama.

Tidak seperti asisten AI lainnya seperti Siri atau Alexa, ChatGPT tidak menggunakan internet untuk mencari jawaban. Alih-alih, ia membuat kalimat kata demi kata, memilih “token” yang paling mungkin muncul berikutnya, berdasarkan pelatihannya. Dengan kata lain, ChatGPT mendapatkan jawaban dengan membuat serangkaian tebakan, yang merupakan bagian dari alasan mengapa ChatGPT dapat memperdebatkan jawaban yang salah seolah-olah itu sepenuhnya benar.

Meskipun sangat bagus dalam menjelaskan konsep yang rumit, menjadikannya alat yang ampuh untuk belajar, penting untuk tidak memercayai semua yang dikatakannya. ChatGPT tidak selalu benar—setidaknya, belum.

2. ChatGPT Memiliki Bias Dimasukkan ke dalam Sistemnya

ChatGPT dilatih tentang penulisan kolektif manusia di seluruh dunia, dulu dan sekarang. Sayangnya, ini berarti bias yang sama yang ada di dunia nyata juga bisa muncul di model.

ChatGPT telah terbukti menghasilkan beberapa jawaban mengerikan yang mendiskriminasi gender, ras, dan kelompok minoritas, sesuatu yang coba dikurangi oleh perusahaan.

Salah satu cara untuk menjelaskan masalah ini adalah dengan menunjuk data sebagai masalahnya, menyalahkan umat manusia atas bias yang tertanam di internet dan lainnya. Tetapi sebagian dari tanggung jawab juga terletak pada OpenAI, yang peneliti dan pengembangnya memilih data yang digunakan untuk melatih ChatGPT.

Sekali lagi, OpenAI tahu ini adalah masalah dan telah mengatakan bahwa mereka menangani apa yang mereka sebut “perilaku bias” dengan mengumpulkan umpan balik dari pengguna yang didorong untuk menandai keluaran ChatGPT yang buruk.

Dengan potensi membahayakan orang, Anda dapat berargumen bahwa ChatGPT seharusnya tidak dirilis ke publik sebelum masalah ini dipelajari dan diselesaikan. Tetapi perlombaan untuk menjadi perusahaan pertama yang merilis alat AI paling kuat mungkin cukup bagi OpenAI untuk berhati-hati.

Sebaliknya, chatbot AI serupa bernama Sparrow—dimiliki oleh perusahaan induk Google, Alphabet—dirilis pada September 2022. Namun, itu sengaja disimpan di balik pintu tertutup karena masalah keamanan yang serupa.

Sekitar waktu yang sama, Facebook merilis model bahasa AI yang disebut Galactica, yang dimaksudkan untuk membantu penelitian akademis. Itu dengan cepat ditarik kembali setelah banyak orang mengkritiknya karena mengeluarkan hasil yang salah dan bias terkait dengan penelitian ilmiah.

3. ChatGPT Mungkin Mengambil Pekerjaan Dari Manusia

Debu belum hilang setelah pengembangan dan penerapan ChatGPT yang cepat dan teknologi yang mendasari di baliknya telah digabungkan ke dalam sejumlah aplikasi komersial. Di antara aplikasi yang telah mengintegrasikan GPT-4 ada Duolingo dan Khan Academy.

Yang pertama adalah aplikasi pembelajaran bahasa, sedangkan yang kedua adalah alat pembelajaran pendidikan yang beragam. Keduanya menawarkan apa yang pada dasarnya adalah tutor AI, baik dalam bentuk karakter bertenaga AI yang dapat Anda ajak bicara dalam bahasa yang Anda pelajari. Atau sebagai tutor AI yang dapat memberi Anda umpan balik yang disesuaikan dengan pembelajaran Anda.

Di satu sisi, ini bisa mengubah cara kita belajar, berpotensi membuat pendidikan lebih mudah diakses, dan proses belajar sedikit lebih mudah. Namun sisi negatifnya adalah, ini menghilangkan pekerjaan yang telah dipegang oleh manusia sejak lama.

Kemajuan teknologi selalu mengakibatkan hilangnya pekerjaan, tetapi kecepatan kemajuan AI berarti ada banyak industri yang menghadapi masalah yang sama. Dari pendidikan hingga ilustrasi hingga peran layanan pelanggan, ChatGPT, dan teknologi dasarnya akan mengubah dunia modern kita secara drastis.

4. ChatGPT Bisa Menantang Bahasa Inggris SMA

Anda dapat meminta ChatGPT untuk mengoreksi tulisan Anda atau menunjukkan cara memperbaiki paragraf. Atau Anda dapat menghapus diri Anda sepenuhnya dari persamaan dan meminta ChatGPT untuk melakukan semua penulisan untuk Anda.

Guru telah bereksperimen dengan memberikan tugas bahasa Inggris ke ChatGPT dan telah menerima jawaban yang lebih baik daripada yang dapat dilakukan oleh banyak siswa mereka. Dari menulis surat pengantar hingga mendeskripsikan tema utama dalam karya sastra terkenal, ChatGPT dapat melakukan semuanya tanpa ragu.

Itu menimbulkan pertanyaan: jika ChatGPT dapat menulis untuk kami, apakah siswa perlu belajar menulis di masa mendatang? Ini mungkin tampak seperti pertanyaan eksistensial, tetapi saat siswa mulai menggunakan ChatGPT untuk membantu menulis esai mereka, sekolah harus memikirkan jawabannya dengan cepat. Penyebaran AI yang cepat dalam beberapa tahun terakhir akan mengejutkan banyak industri, dan pendidikan hanyalah salah satunya.

5. ChatGPT Dapat Menyebabkan Kerusakan di Dunia Nyata

Sebelumnya, kami telah menyebutkan bagaimana informasi yang salah dari ChatGPT dapat menyebabkan kerusakan di dunia nyata, dengan salah satu contohnya adalah nasihat medis yang salah. Tapi ada kekhawatiran lain juga.

Kecepatan pembuatan teks yang terdengar alami memudahkan penipu yang berpura-pura menjadi seseorang yang Anda kenal di media sosial. Demikian pula, menemukan email phishing yang dirancang untuk mengekstrak detail sensitif dari Anda, disederhanakan, dengan manfaat tambahan bahwa ChatGPT dapat menghasilkan teks yang bebas dari kesalahan tata bahasa—yang dulu merupakan tanda bahaya yang jelas.

Menyebarkan informasi palsu juga menjadi perhatian serius. Skala di mana ChatGPT dapat menghasilkan teks, ditambah dengan kemampuan untuk membuat informasi yang salah sekalipun terdengar meyakinkan benar, tentu akan membuat informasi di internet semakin dipertanyakan.

Tingkat di mana ChatGPT dapat menghasilkan informasi telah menimbulkan masalah bagi Stack Exchange, sebuah situs web yang didedikasikan untuk memberikan jawaban yang benar untuk pertanyaan sehari-hari. Segera setelah ChatGPT dirilis, pengguna mulai membanjiri situs dengan jawaban yang mereka minta untuk dibuat oleh ChatGPT.

Tanpa sukarelawan manusia yang cukup untuk memilah-milah backlog, tidak mungkin untuk mempertahankan jawaban kualitas tingkat tinggi. Belum lagi, banyak jawaban yang tidak benar. Untuk menghindari kerusakan situs web, larangan ditempatkan pada semua jawaban yang dihasilkan menggunakan ChatGPT.

6. OpenAI Memegang Semua Kekuatan

Dengan kekuatan besar datang tanggung jawab besar, dan OpenAI memegang banyak kekuatan. Ini adalah salah satu perusahaan AI pertama yang benar-benar mengguncang dunia dengan tidak hanya satu, tetapi beberapa model AI generatif, termasuk Dall-E 2, GPT-3, dan GPT-4.

OpenAI memilih data apa yang digunakan untuk melatih ChatGPT, namun informasi ini tidak tersedia untuk umum. Kami hanya tidak mengetahui detail tentang bagaimana ChatGPT dilatih, data apa yang digunakan, dari mana data berasal, atau seperti apa arsitektur sistem secara detail.

Meskipun OpenAI menganggap keselamatan sebagai prioritas utama, ada banyak hal yang tidak kita ketahui tentang cara kerja model itu sendiri, baik atau buruk. Apakah Anda berpikir bahwa kode harus dibuat open source, atau setuju bahwa itu harus merahasiakan sebagian, tidak banyak yang bisa kita lakukan tentang itu.

Pada akhirnya, kita harus percaya sepenuhnya bahwa OpenAI akan meneliti, mengembangkan, dan menggunakan ChatGPT secara bertanggung jawab. Baik kami setuju dengan metodenya atau tidak, OpenAI akan terus mengembangkan ChatGPT sesuai dengan tujuan dan standar etikanya sendiri.

Mengatasi Masalah Terbesar AI

Ada banyak hal yang menarik dari ChatGPT, tetapi selain kegunaan langsungnya, ada beberapa masalah serius yang perlu dipahami. OpenAI mengakui bahwa ChatGPT dapat menghasilkan jawaban yang berbahaya dan bias, berharap dapat mengurangi masalah dengan mengumpulkan umpan balik pengguna. Namun kemampuannya untuk menghasilkan teks yang meyakinkan, meski faktanya tidak benar, dapat dengan mudah digunakan oleh orang yang berniat buruk.

Dengan teknologi anyar, sulit memprediksi masalah apa yang akan muncul di masa depan. Jadi, meskipun menyenangkan untuk digunakan, pastikan untuk tidak mempercayai semua yang dikatakan ChatGPT.