Status VLOSE diterapkan terutama terhadap fungsi pencarian ChatGPT, sehingga penetapan tersebut tidak serta-merta berarti seluruh keluaran model AI diperlakukan sama dengan hasil mesin pencari konvensional.
Namun, kemampuan ChatGPT menyajikan jawaban langsung membuat pengaruhnya berpotensi lebih kuat daripada mesin pencari tradisional karena pengguna dapat menerima kesimpulan yang telah dirangkum tanpa terlebih dahulu membuka dan membandingkan berbagai sumber.
Prof. Indrabayu mengatakan perubahan perilaku masyarakat dalam mencari informasi menjadi salah satu alasan utama mengapa regulator mulai menempatkan chatbot AI di bawah pengawasan yang lebih ketat.
“Yang paling menarik adalah AI mulai mengubah pintu masuk manusia menuju informasi karena dahulu kita mengatakan, ‘Google dulu,’ tetapi sekarang mulai bergeser menjadi, ‘Tanya AI dulu,’” katanya.
Menurut dia, ketika chatbot mulai menentukan informasi pertama yang dibaca dan dipercaya masyarakat, tanggung jawab terhadap akurasi, sumber, keberimbangan, dan kemungkinan bias algoritma menjadi semakin besar.
“Kalau chatbot sudah ikut menentukan informasi apa yang pertama kali kita baca dan percaya, regulator tentu ikut berada di sana untuk memastikan pengaruh tersebut dapat dipertanggungjawabkan,” jelasnya.
Keputusan Uni Eropa ini juga dapat menjadi preseden yang memengaruhi cara berbagai negara menilai sistem AI generatif besar yang memadukan percakapan, pencarian web, peringkasan, rekomendasi, dan penyajian jawaban langsung.
Lena-Maria Boswald dari lembaga pemikir teknologi Jerman, Interface, menilai langkah tersebut berpotensi membentuk ekspektasi regulasi terhadap seluruh sistem AI generatif berskala besar yang digunakan di Uni Eropa.
OpenAI menyatakan bahwa ChatGPT Search beroperasi sebagai layanan pencarian berdasarkan DSA dan perusahaan sedang mempersiapkan diri untuk memenuhi persyaratan tambahan yang menyertai status VLOSE.
Algoritma, Anak-Anak, Pemilu, dan Kesehatan Mental Diawasi
Dalam waktu empat bulan setelah menerima pemberitahuan resmi atau paling lambat Januari 2027, ChatGPT, Reddit, dan Roblox harus menilai serta mengurangi risiko sistemik yang muncul dari desain layanan, fungsi algoritma, dan pola penggunaannya oleh masyarakat.
Risiko yang wajib diperiksa mencakup penyebaran konten ilegal, disinformasi, manipulasi informasi, dampak buruk terhadap anak-anak, kesehatan fisik dan mental pengguna, hak-hak dasar, proses pemilu, wacana publik, serta keamanan masyarakat.
Bagi ChatGPT, kewajiban tersebut dapat mencakup penilaian terhadap kemungkinan sistem pencariannya menyajikan informasi keliru, memperkuat sumber yang tidak tepercaya, memengaruhi proses politik, atau menghasilkan jawaban yang membahayakan pengguna rentan.
DSA tidak menentukan sendiri informasi yang dianggap ilegal karena status suatu konten tetap merujuk pada peraturan Uni Eropa atau hukum nasional negara anggota, sedangkan DSA menyediakan kerangka untuk mendeteksi, melaporkan, menilai, dan menanganinya.
Layanan berstatus VLOSE dan VLOP juga diwajibkan menjalani audit independen, menerbitkan laporan transparansi, menyediakan data tertentu kepada regulator dan peneliti yang memenuhi syarat, serta menjelaskan sistem rekomendasi atau algoritma yang memengaruhi informasi pengguna.
Mereka juga harus menyediakan mekanisme respons krisis, ketentuan layanan yang mudah dipahami, repositori iklan yang dapat diperiksa publik, dan perlindungan lebih kuat bagi anak-anak serta kelompok pengguna rentan.
Komisi Eropa memperoleh kewenangan untuk menyelidiki fungsi ChatGPT dan sistem terkait melalui permintaan informasi, wawancara, pemeriksaan teknis, dan tindakan penegakan apabila ditemukan pelanggaran.
