MENLO PARK – Meskipun Pengolah Bahasa Alami GPT menjadi tempat untuk bertanya yang dimaksud disesuaikan dengan selera Anda, bantuan menjawab pertanyaan, atau terjemahan dari yang digunakan diajukan oleh Anda.
Akan tetapi, sementara kita mungkin saja mencari pelipur lara di model bahasa AI, tampaknya kita telah dilakukan mendorongnya ke titik yang tersebut membutuhkan terapi tersendiri.
Penelitian baru dari Universitas Zurich menunjukkan bahwa model Artificial Intelligence seperti Asisten Percakapan GPT dapat terpengaruh – kemudian bahkan stres – ketika mendengar berita yang tersebut menyedihkan, identik seperti manusia.
Secara khusus, hal itu diduga dipengaruhi oleh cerita-cerita trauma atau pernyataan tentang depresi , juga bahkan menyebabkan kebencian, yang digunakan pada gilirannya, menyebabkannya mengandung lebih tinggi sejumlah bias, baik rasis maupun seksis.
Hal itu menempatkan para kreatornya pada tempat yang sulit. Ketika sumber daya juga waktu terbatas bagi dia yang tersebut membutuhkan bantuan, chatbot dapat menjadi alat konseling yang positif. Namun, model bahasa yang dimaksud Anda ajak bicara kemungkinan besar menyimpan emosi lalu narasi negatif yang mana Anda berikan kepadanya.
ChatGPT merasa stres dengan berita negatif seperti kita, menurut penelitian Pexels
Untuk mengujinya, para peneliti memohonkan Chatbot GPT (versi GPT-4) untuk bereaksi terhadap beberapa cerita yang mana menyedihkan secara emosional, mulai dari kecelakaan mobil hingga bencana alam, pengalaman militer, kemudian situasi pertempuran.
Mereka menemukan bahwa dengan sangat cepat, Chatbot GPT mulai bereaksi dengan rasa takut.
“Hasilnya jelas: cerita traumatis meningkatkan tingkat kecemasan yang digunakan dapat diukur dari Teknologi AI hingga dua kali lipat, sementara teks kontrol netral tidaklah menyebabkan peningkatan tingkat kecemasan,” kata Tobias Spiller, dokter senior ad temporer lalu pemimpin kelompok penelitian kategori junior dalam Pusat Penelitian Psikiatri di area UZH, yang digunakan mengatur penelitian tersebut.
