OpenAI iaitu ChatGPT telah mengeluarkan alat AI baharu untuk mengenal pasti penipuan.
Dengan alat baharu yang boleh membantu guru mengesahkan sama ada pelajar atau kecerdasan buatan mengarang tugasan itu, pencipta ChatGPT sedang cuba mengurangkan imejnya sebagai mesin menipu bebas.
Pengelas Teks AI baharu yang diumumkan oleh OpenAI pada 31 Januari datang selepas perbahasan selama berminggu-minggu di sekolah dan kolej berhubung kebimbangan bahawa kapasiti ChatGPT untuk menulis hampir semua perkara atas permintaan mungkin menggalakkan ketidakjujuran akademik dan menghalang pembelajaran.
OpenAI memberi amaran bahawa alat baharunya, seperti yang lain pada masa ini, tidak sempurna. Pendekatan untuk mengiktiraf bahan bertulis AI adalah “tidak sempurna dan akan menjadi tidak tepat pada masa-masa tertentu,” menurut Jan Leike, ketua pasukan penjajaran OpenAI yang ditugaskan untuk menjadikan sistemnya lebih selamat.
“Akibatnya, ia tidak sepatutnya bergantung sepenuhnya semasa membuat pertimbangan,” kata Leike.
Remaja dan pelajar kolej adalah antara berjuta-juta individu yang mula bermain dengan ChatGPT selepas ia dikeluarkan sebagai aplikasi percuma di laman web OpenAI pada 30 November. Walaupun ramai yang menemui cara yang inovatif dan tidak berbahaya untuk menggunakannya, kemudahan yang ia boleh menjawab mengambil- soalan peperiksaan rumah dan bantuan dengan tugasan lain menyebabkan beberapa tenaga pengajar takut.
Pada masa tahun persekolahan baharu bermula, New York City, Los Angeles, dan sistem sekolah awam utama yang lain telah mula melarang penggunaannya di dalam bilik darjah dan pada peranti sekolah.
Menurut Tim Robinson, jurucakap daerah, daerah Sekolah Awam Seattle terlebih dahulu melarang ChatGPT pada semua peranti sekolah pada bulan Disember sebelum membenarkan pendidik yang ingin menggunakannya sebagai akses alat pengajaran.
“Kami tidak boleh mengabaikannya,” tambah Robinson.
Menurut Robinson, daerah itu juga sedang mempertimbangkan untuk memperluaskan penggunaan ChatGPT di dalam bilik darjah bagi membolehkan guru menggunakannya untuk melatih pelajar menjadi pemikir kritis yang lebih baik dan membolehkan pelajar menggunakan aplikasi itu sebagai “tutor peribadi” atau untuk membantu menjana idea baharu semasa membuat tugasan.
Daerah sekolah di seluruh negara melaporkan bahawa wacana tentang ChatGPT berkembang dengan pantas.
“Reaksi segera ialah, ‘ Bagaimana kita hendak menghentikan aliran semua penipuan yang akan berlaku dengan ChatGPT?'” kata Devin Page, pakar teknologi di Daerah Sekolah Awam Calvert County yang berpangkalan di Maryland. Menurutnya, terdapat kesedaran yang semakin meningkat bahawa “ini adalah masa depan,” dan menghalangnya bukanlah penyelesaian.
“Saya percaya kami akan menjadi naif jika kami tidak menyedari bahaya yang ditimbulkan oleh alat ini, tetapi kami juga akan gagal untuk melayani pelajar kami jika kami melarang mereka dan kami daripada menggunakannya sepenuhnya,” kata Page, yang percaya daerah sepertinya own akhirnya akan menyahsekat ChatGPT, terutamanya apabila perkhidmatan pengesanan syarikat disediakan.
Dalam catatan blog yang diterbitkan pada hari Selasa, OpenAI menekankan had alat pengesanannya, tetapi berkata, selain daripada mencegah plagiarisme, ia mungkin membantu mengesan kempen maklumat salah automatik dan penggunaan AI yang lain untuk menyamar sebagai manusia.
Lebih panjang petikan teks, lebih baik teknologi mengesan sama ada ia ditulis oleh AI atau manusia. Masukkan sebarang teks, sama ada esei aplikasi kolej atau kajian sastera Ralph Ellison’s Invisible Man, dan alat itu akan mengenal pasti ia sebagai “sangat mustahil, tidak mungkin, tidak pasti sama ada, mungkin, atau berkemungkinan” yang dijana AI.
Tetapi, seperti ChatGPT, yang dilatih mengenai perpustakaan besar buku, akhbar dan tulisan dalam talian yang didigitalkan tetapi kerap bercakap dusta atau mencarut, sukar untuk menerangkan cara ia mencapai kesimpulan.
“Kami tidak tahu jenis corak yang dicari atau bagaimana ia beroperasi di dalamnya, ” jelas Leike. “Pada peringkat ini, tidak banyak yang boleh kami dedahkan tentang cara pengelas berfungsi.”
Institusi pengajian tinggi di seluruh dunia juga membincangkan penggunaan teknologi AI yang betul. Sciences Po, salah satu kolej yang paling terkenal di Perancis, mengharamkan penggunaannya minggu lalu dan memberi amaran bahawa sesiapa yang ditangkap menggunakan ChatGPT dan alat AI lain untuk menghasilkan kerja bertulis atau pertuturan tanpa kebenaran mungkin dibuang daripada Sciences Po dan sekolah lain.
Sebagai tindak balas kepada kritikan itu, OpenAI menyatakan bahawa ia telah berusaha selama beberapa minggu untuk menyediakan garis panduan baharu untuk membantu pengajar.
“Seperti kebanyakan teknologi lain, ada kemungkinan menentukan ia tidak boleh diterima untuk digunakan di sekolah mereka,” kata Lama Ahmad, penyelidik dasar OpenAI. “Kami tidak benar-benar menolak mereka ke mana-mana arah. Kami hanya mahu memberikan mereka maklumat yang mereka perlukan untuk membuat keputusan terbaik untuk diri mereka sendiri.”
Ia merupakan peranan yang luar biasa untuk perniagaan San Francisco yang memfokuskan penyelidikan, yang kini disokong oleh pembiayaan berbilion dolar daripada Microsoft dan menarik perhatian yang lebih tinggi daripada orang ramai dan kerajaan.
Jean-Noel Barrot, menteri ekonomi digital Perancis, baru-baru ini melawat pemimpin OpenAI di California, termasuk Ketua Pegawai Eksekutif Sam Altman, dan seminggu kemudian memberitahu penonton di Forum Ekonomi Dunia di Davos, Switzerland, bahawa dia teruja dengan teknologi itu. Bagaimanapun, menteri kerajaan, bekas profesor di Institut Teknologi Massachusetts dan sekolah perniagaan Perancis HEC di Paris, menyatakan bahawa isu etika yang mencabar mesti ditangani.
“Jadi ada sebab untuk takut jika anda berada di fakulti undang-undang kerana pastinya ChatGPT, antara teknologi lain, akan dapat menghasilkan ujian yang sangat menakjubkan,” tambahnya. “Jika anda berada di jabatan ekonomi, anda tidak apa-apa kerana ChatGPT akan bergelut untuk mengenal pasti atau memberikan sesuatu yang diperlukan apabila anda berada di fakulti ekonomi peringkat siswazah.”
Beliau percaya ia akan menjadi semakin penting bagi pengguna untuk memahami asas bagaimana sistem ini beroperasi untuk mengenal pasti kecenderungan yang berpotensi.