OpenAI telah membangun alat yang berpotensi dapat menangkap siswa yang curang dengan meminta ChatGPT menulis tugas mereka - tetapi menurut The Wall Street Journal, perusahaan sedang mempertimbangkan apakah akan benar-benar merilisnya.

Dalam pernyataan yang diberikan kepada TechCrunch, juru bicara OpenAI mengkonfirmasi bahwa perusahaan sedang melakukan penelitian tentang metode penandaan teks yang dijelaskan dalam cerita Jurnal, namun mengatakan bahwa mereka mengambil pendekatan 'dihitung' karena 'kompleksitas yang terlibat dan dampaknya yang kemungkinan besar terhadap ekosistem yang lebih luas di luar OpenAI.' "

“Metode penandaan teks yang kami kembangkan adalah teknis menjanjikan, tetapi memiliki risiko penting yang kami pertimbangkan saat kami meneliti alternatif, termasuk rentan terhadap penyusupan oleh pelaku yang jahat dan potensi untuk secara tidak proporsional mempengaruhi kelompok seperti penutur bahasa non-Inggris,” kata juru bicara."

Ini akan menjadi pendekatan yang berbeda dari sebagian besar upaya sebelumnya untuk mendeteksi teks yang dihasilkan oleh AI, yang sebagian besar tidak efektif. Bahkan OpenAI sendiri menutup penyaring teks AI sebelumnya tahun lalu karena "tingkat akurasinya rendah."

Dengan penandaan teks, OpenAI akan fokus hanya pada mendeteksi penulisan dari ChatGPT, bukan dari model perusahaan lain. Ini akan dilakukan dengan membuat perubahan kecil pada bagaimana ChatGPT memilih kata-kata, essentially creating an invisible watermark in the writing that could later be detected by a separate tool.

Setelah publikasi cerita Jurnal, OpenAI juga memperbarui posting blog Mei tentang penelitiannya seputar mendeteksi konten yang dihasilkan oleh AI. Pembaruan menyatakan bahwa penandaan teks telah terbukti "sangat akurat dan bahkan efektif melawan penyusupan lokal, seperti penguraian ulang," namun terbukti "kurang kokoh terhadap penyusupan global; seperti menggunakan sistem terjemahan, memparafrazing dengan model generasi lain, atau meminta model untuk menyisipkan karakter khusus di antara setiap kata dan kemudian menghapus karakter tersebut."

Sebagai hasilnya, OpenAI menulis bahwa metode ini "mudah dielakkan oleh pelaku yang jahat." Pembaruan OpenAI juga mengulang poin juru bicara tentang penutur bahasa non-Inggris, menyatakan bahwa penandaan teks bisa "mencemarkan penggunaan AI sebagai alat menulis yang berguna bagi penutur bahasa Inggris non-asli."