OpenAI Masih Pertimbangkan untuk Hadirkan Alat Deteksi Tulisan dari ChatGPT

MerahPutih.com - OpenAI, perusahaan teknologi artificial intelligence, dikabarkan masih menimbang-nimbang keputusan untuk merilis alat pendeteksi tulisan yang dibuat oleh ChatGPT.

Perusahaan yang dipimpin Sam Altman itu menyebutkan pihaknya mengambil pendekatan penuh kehati-hatian, karena kompleksitas yang terlibat serta dampak yang mungkin terjadi akan lebih luas di luar OpenAI apabila alat deteksi tersebut dirilis.

Laman TechCrunch melaporkan, Minggu (4/8), sebenarnya OpenAI tengah meneliti metode pemberian watermark pada teks yang dibuat oleh AI yang terlihat menjanjikan.

Juru Bicara OpenAI kemudian menambahkan, "Tetapi metode watermark itu memiliki risiko penting yang kami pertimbangkan saat kami meneliti alternatif, termasuk kerentanan terhadap pengelakan oleh pelaku jahat dan potensi untuk berdampak secara tidak proporsional pada kelompok-kelompok seperti penutur non-Inggris,".

Baca juga:

OpenAI Umumkan Peluncuran GPT-4o, Hadir dengan Berbagai Fitur Pemium

Pendekatan ini juga diambil dan bisa dibilang berbeda karena upaya-upaya yang sebelumnya diambil untuk mendeteksi teks yang dihasilkan AI oleh industri sebagian besar dinilai tidak efektif.

OpenAI sendiri sebenarnya pernah merilis detektor teks AI pada 2023 yang berujung pada penutupan fitur karena tingkat akurasinya yang rendah.

Dengan tanda air pada teks, OpenAI akan fokus hanya pada pendeteksian tulisan dari ChatGPT, bukan dari model perusahaan lain.

Hal itu akan dilakukan dengan membuat perubahan kecil pada cara ChatGPT memilih kata, yang pada dasarnya menciptakan tanda air tak terlihat dalam tulisan yang nantinya dapat dideteksi oleh alat terpisah.

Baca juga:

OpenAI Kembangkan AI yang Bisa Lakukan Penalaran dan Penelitian

Dalam unggahan blog OpenAI di Mei 2024, perusahaan mengungkap beberapa hasil dari penelitiannya seputar pendeteksian konten yang dihasilkan AI.

Ditemukan bahwa metode pemberian tanda air pada teks yang diciptakan AI sebenarnya terbukti sangat akurat bahkan efektif terhadap bentuk-bentuk teks yang rumit seperti parafrase.

Meski begitu di sisi lain, tanda air dinilai kurang valid untuk diterapkan secara global karena memiliki banyak kerentanan.

Beberapa diantaranya mungkin saja ada teks yang dikerjakan menggunakan penerjemah sehingga tak terdeteksi, mengubah kata dengan model generatif lain, meminta model memasukkan karakter khusus di antara setiap kata sehingga akhirnya tak terdeteksi.

Baca juga:

OpenAI Blokir Suara ChatGPT Mirip Scarlett Johansson

Apabila memang diterapkan secara global maka sistem tanda air dapat dikelabui oleh pihak yang tak bertanggung jawab.

Di samping itu, penelitian itu juga menyebutkan bahwa pemberian tanda air ternyata berpotensi menjadi stigma buruk karena dapat menstigmatisasi penggunaan AI sebagai alat tulis yang berguna bagi penutur Bahasa non-Inggris. (*)