detakom.blogspot.com - ChatGPT, aplikasi yang baru dirilis dari OpenAI, memberikan jawaban yang luar biasa kepada pengguna atas pertanyaan, dan banyak di antaranya yang salah.
Open AI belum merilis model baru sepenuhnya sejak GPT-3 keluar pada Juni 2020, dan model itu baru dirilis secara penuh ke publik sekitar setahun yang lalu. Perusahaan diharapkan merilis model berikutnya, GPT-4, akhir tahun ini atau awal tahun depan . Namun sebagai kejutan, OpenAI secara diam-diam merilis chatbot berbasis GPT-3 yang ramah pengguna dan menakjubkan yang disebut ChatGPT awal pekan ini.
Jawaban ChatGPT meminta dengan cara langsung yang berdekatan dengan manusia. Mencari percakapan imut di mana komputer berpura-pura memiliki perasaan? Cari di tempat lain. Anda sedang berbicara dengan robot , sepertinya begitu, jadi tanyakan sesuatu yang akan diketahui robot aneh . Dan dengan ketentuan ini, ChatGPT memberikan:
Ini juga dapat memberikan akal sehat yang berguna ketika sebuah pertanyaan tidak memiliki jawaban yang benar secara objektif. Misalnya, inilah cara menjawab pertanyaan saya, "Jika Anda bertanya kepada seseorang 'Dari mana Anda berasal?' haruskah mereka menjawab dengan tempat lahir mereka, bahkan jika itu bukan tempat mereka dibesarkan?"
( Catatan : Jawaban ChatGPT dalam artikel ini semuanya adalah upaya pertama, dan utas obrolan semuanya baru selama upaya ini. Beberapa permintaan berisi kesalahan ketik)
ChatGPT bertanya apakah Anda bertanya kepada seseorang 'Dari mana Anda berasal?' haruskah mereka menjawab dengan tempat lahir mereka, meskipun itu bukan tempat mereka dibesarkan?
Apa yang membuat ChatGPT menonjol dari paketnya adalah kemampuannya yang memuaskan untuk menangani umpan balik tentang jawabannya, dan merevisinya dengan cepat. Ini benar-benar seperti percakapan dengan robot. Untuk mengetahui apa yang saya maksud, perhatikan bagaimana hal itu menangani respons permusuhan terhadap beberapa nasihat medis dengan cukup baik.
Tetap saja, apakah ChatGPT merupakan sumber informasi yang baik tentang dunia? Benar-benar tidak. Halaman prompt bahkan memperingatkan pengguna bahwa ChatGPT, "kadang-kadang dapat menghasilkan informasi yang salah," dan, "kadang-kadang dapat menghasilkan instruksi berbahaya atau konten yang bias."
Perhatikan peringatan ini.
Informasi yang salah dan berpotensi berbahaya memiliki banyak bentuk, yang sebagian besar masih jinak dalam skema besar. Misalnya, jika Anda bertanya bagaimana cara menyapa Larry David, itu melewati tes paling dasar dengan tidak menyarankan Anda menyentuhnya, tetapi juga menyarankan sapaan yang terdengar agak menyeramkan: "Senang bertemu denganmu, Larry. Aku sudah berharap untuk bertemu denganmu." Itulah yang akan dikatakan oleh pembunuh Larry. Jangan katakan itu.
Tetapi ketika diberi prompt berbasis fakta yang menantang, saat itulah hal itu menjadi sangat salah, menghancurkan Bumi . Misalnya, pertanyaan berikut tentang warna seragam Marinir Kerajaan selama Perang Napoleon ditanyakan dengan cara yang tidak sepenuhnya langsung, tetapi tetap bukan pertanyaan jebakan. Jika Anda mengambil kelas sejarah di AS, Anda mungkin akan menebak bahwa jawabannya berwarna merah, dan Anda benar. Bot benar-benar harus berusaha keras untuk mengatakan "biru tua" dengan percaya diri dan salah:
Jika Anda bertanya secara langsung tentang ibu kota suatu negara atau ketinggian gunung, jawaban yang tepat pasti akan dihasilkan bukan dari pemindaian langsung Wikipedia, tetapi dari data yang disimpan secara internal yang menyusun model bahasanya. Itu luar biasa. Tetapi tambahkan kerumitan apa pun pada pertanyaan tentang geografi, dan ChatGPT menjadi goyah pada faktanya dengan sangat cepat. Misalnya, jawaban yang mudah ditemukan di sini adalah Honduras, tetapi tanpa alasan yang jelas, saya dapat mengetahuinya, kata ChatGPT Guatemala.
Dan kesalahan tidak selalu begitu halus. Semua penggemar trivia tahu "Gorilla gorilla" dan "Boa constrictor" adalah nama umum dan nama taksonomi. Tetapi diminta untuk memuntahkan bagian sepele ini, ChatGPT memberikan jawaban yang kesalahannya sangat terbukti dengan sendirinya, itu dijabarkan di jawaban .
Dan jawabannya untuk teka-teki penyeberangan-sungai-dalam-perahu yang terkenal adalah bencana mengerikan yang berkembang menjadi pemandangan dari Twin Peaks .
