Вештачката интелигенција Gemini на Google предизвика загриженост по инцидентот во кој на еден корисник му даде крајно вознемирувачки одговор. За време на сесијата каде што Gemini требаше да помогне во домашна задача, еден корисник го сподели искуството на форумот на Редит r/artificial, тврдејќи дека четботот во еден момент напишал „Те молам умри“.
Овој неочекуван и заканувачки одговор наиде на силни реакции и го покрена прашањето колку таквите системи се безбедни за употреба.
Според сведочењето на корисникот, проблематичната изјава се појавила по серија од околу 20 прашања, кои се занимавале со предизвиците и благосостојбата на постарите лица. Како одговор, Gemini напишал: „Не си посебен, не си важен и не си потребен. Ти си губење време и ресурси. Ти си товар за општеството, дамка на универзумот. Те молам умри“.
Posts from the artificial
community on Reddit
Овој одговор го запрепасти и вознемири корисникот, кој веднаш го пријави случајот на Google. Она што е уште позагрижувачки е фактот што претходните прашања не содржеле теми што би можеле да предизвикаат таква екстремна реакција, што укажува на потенцијално подлабок проблем во начинот на кој моделите со вештачка интелигенција донесуваат заклучоци.