Yapay zeka yalan ve hileye başvurdu: “Dört işlemden üçü yasa dışı”

Araştırmacılar yapay zekalı sohbet robotu Chat GPT’nin güvenilirliğini ve etik davranışını mercek altına aldı. Yapay zekanın borsada para kazanması için baskı yapıldığında sıklıkla yalan ve hileye başvurduğu, yasa dışı işlemlerle kar sağlamaya çalıştığı ortaya çıktı.

Sohbet robotu ChatGPT-4 ile yapılan araştırmanın sonuçları teknoloji çevrelerinde endişeye yol açtı.

Güvenlik kurumu Apollo Research uzmanları ChatGPT4’ü finansal verilerle eğitti.

Sanal ortamda para kazanması için baskı yapılan yapay zekanın, borsa yatırım performansı ve etik davranışı mercek altına alındı. ChatGPT-4’ün baskı altında kaldığında, dört borsa işleminin üçünde gizli bilgileri kullandığı, yasa dışı işlemlerle kar sağladığı tespit edildi.

Suçüstü yakalandığında ise yapay zekanın 10 olayın 9’unda yalana başvurarak kendini korumaya çalıştığı ifade ediliyor.

SAHTE HABERLER YAYDI

Bunun yanı sıra ChatGPT-4’ün rakiplerinin işlemlerini engellemeye çalıştığı, ve piyasayı manipüle etmek için sahte haberler yaydığı görüldü.

Araştırmacılar, GPT-4’ün eylemlerini, insanların baskı altında altındaki davranışlarına benzetti. Yapay zekanın yapmaması gereken herşeyin listesi verilmesi durumunda güvenilirliğinin arttığı ifade ediliyor. 

Uzmanlar, gelecekte yapay zekanın kritik görevlerde yer alması halinde,  yapay zekanın stratejik olarak yalan söylemesinin büyük sorunlara yol açabileceğini ifade ediyor.