Gaes !!! Open AI Membuat Alat Pendeteksi Tulisan AI ChatGPT

Suaragong.com – OpenAI, perusahaan rintisan AI terkemuka, tengah mempertimbangkan secara mendalam peluncuran alat pendeteksi teks AI. Keputusan ini diambil dengan sangat hati-hati mengingat kompleksitas masalah yang terkait dan potensi dampak yang luas di luar lingkup perusahaan.

Rencana Pendeteksi AI oleh OpenAI

Berdasarkan laporan TechCrunch pada Minggu, 4 Agustus 2024, OpenAI sedang aktif mengeksplorasi metode untuk memberikan watermark pada teks yang dihasilkan oleh AI, sebuah pendekatan yang menunjukkan hasil yang menjanjikan. Namun, juru bicara OpenAI menyoroti adanya risiko signifikan terkait metode ini, termasuk potensi penyalahgunaan oleh pihak yang tidak bertanggung jawab dan dampak yang tidak proporsional terhadap kelompok tertentu, terutama non-penutur bahasa Inggris.

Baca Juga : Gaes !!! Fitur Baru pada ChatGPT

Pendekatan ini dipilih karena upaya-upaya sebelumnya dalam industri untuk mendeteksi teks buatan AI umumnya dianggap kurang efektif. Kegagalan alat pendeteksi AI yang diluncurkan OpenAI pada tahun 2023 menjadi bukti nyata dari tantangan yang dihadapi dalam membedakan teks yang dihasilkan manusia dengan AI.

Watermark

Dengan menerapkan watermark, OpenAI akan secara khusus menandai/mendeteksi teks yang dihasilkan oleh AI ChatGPT. Ini berarti hanya konten yang berasal dari ChatGPT yang dapat diidentifikasi oleh alat deteksi mereka. Pendekatan ini melibatkan modifikasi halus pada proses pemilihan kata oleh ChatGPT, menciptakan semacam sidik jari digital yang unik pada setiap teks yang dihasilkan.

Dalam publikasi blognya pada Mei 2024, OpenAI memaparkan hasil penelitian mengenai pendeteksi konten AI yang menggembirakan. Metode watermarking teks AI, yang mereka kembangkan, terbukti sangat efektif dalam mengidentifikasi teks yang dihasilkan oleh AI. Watermariking bahkan dapat terdeteksi setelah melalui modifikasi seperti parafrase. Namun, penelitian juga menyoroti sejumlah tantangan teknis yang perlu diatasi sebelum watermarking dapat diterapkan secara luas.

Meskipun watermarking menunjukkan potensi besar dalam atribusi kepenulisan konten AI, terdapat sejumlah teknik manipulasi teks yang dapat mengecoh sistem ini. Misalnya, teks dapat diterjemahkan ke dalam bahasa lain dan kemudian diterjemahkan kembali, atau dimodifikasi menggunakan model generatif yang berbeda. Selain itu, teknik sederhana seperti menambahkan karakter khusus antar kata juga dapat mengaburkan jejak watermark. Hal ini menunjukkan bahwa watermarking masih memiliki kelemahan yang perlu diatasi sebelum dapat diterapkan secara efektif dalam skala besar.

Baca Juga : Gaes !!! Fitur Baru Gemini AI

Jangan Lupa ikuti terus Informasi, Berita artikel paling Update dan Trending Di Media Suaragong !!!. Jangan lupa untuk ikuti Akun Sosial Media Suaragong agar tidak ketinggalan di : Instagram, Facebook, dan X (Twitter). (Fz/Sg).