JT - OpenAI masih menimbang keputusan untuk merilis alat pendeteksi tulisan yang dihasilkan oleh ChatGPT, mengingat kompleksitas dan dampak yang mungkin ditimbulkan.
Perusahaan yang dipimpin Sam Altman ini tengah meneliti metode pemberian watermark atau tanda air pada teks, yang dianggap menjanjikan namun juga memiliki risiko penting.
Baca juga : WhatsApp Rilis Fitur Sticker Maker Untuk Pengguna iPhone: Buat dan Bagikan Stiker Tanpa Keluar dari Aplikasi
Dikutip dari TechCrunch, Minggu (4/8), OpenAI menganggap pendekatan penuh kehati-hatian perlu dilakukan mengingat dampak luas dari alat deteksi tersebut.
Juru Bicara OpenAI menjelaskan bahwa metode watermark memiliki risiko besar, termasuk kerentanan terhadap pengelakan oleh pelaku jahat dan potensi dampak negatif pada penutur non-Inggris.
Upaya sebelumnya untuk mendeteksi teks AI oleh industri dinilai tidak efektif. OpenAI sebelumnya telah merilis detektor teks AI pada 2023, namun fitur tersebut ditutup karena akurasi yang rendah.
Baca juga : YouTube Ubah Cara Hitung Penayangan Shorts, Kreator Bisa Lebih Pahami Performa Konten
Metode watermark yang sedang diteliti melibatkan perubahan kecil dalam cara ChatGPT memilih kata untuk menciptakan tanda air tak terlihat dalam tulisan yang bisa dideteksi oleh alat terpisah.
Penelitian terbaru menunjukkan bahwa metode ini cukup akurat dalam mendeteksi teks rumit seperti parafrase, tetapi juga menghadapi berbagai kerentanan.
Bagikan
