Извршниот директор на OpenAI, Сем Алтман, објави на социјалната мрежа X дека компанијата воведува нова политика – „третирај ги возрасните корисници како возрасни“. Како дел од оваа политика, ChatGPT ќе дозволи пристап до еротска содржина за корисниците кои потврдиле дека се полнолетни почнувајќи од декември.
Во новата верзија, корисниците ќе можат да ја прилагодат личноста на својот AI асистент, избирајќи помеѓу различни стилови на однесување; од пријателски и „почовечки“ тон до поинтензивна употреба на емотикони. OpenAI исто така ќе им овозможи на потврдените возрасни лица да го користат ChatGPT за генерирање еротска содржина.
Најголемата промена се очекува во декември, кога треба да се воведе систем за верификација на возраста и ќе дозволи пристап до еротска содржина само за возрасни корисници.
Досега, Алтман јасно покажа претпазливост кон сексуално експлицитните апликации на вештачката интелигенција. Во интервју со новинарката Клео Абрам пред два месеци, тој призна дека постојат одлуки кои „би можеле да го зголемат растот и приходите“, но дека тие не се вклопуваат во вредностите на OpenAI. Како пример, тој наведе: „Сè уште не сме вовеле „секс аватар“ на ChatGPT.“
Кога беше прашан дали таквото дополнување веројатно би го зголемило времето што корисниците го поминуваат во апликацијата, Алтман кратко одговори: „Очигледно би го направило тоа.“
Некои конкуренти веќе се свртеа кон овој пазар. Во јуни, компанијата xAI на Елон Маск ја лансираше Ani, виртуелна аниме партнерка во долна облека, а некои корисници изјавија за Business Insider дека „се заљубиле во неа“. Генераторот на видеа на xAI, Grok Imagine, исто така, доби пикантен режим, кој овозможува делумно отстранување на облеката од сликите.
Иако ChatGPT досега строго забрануваше сексуални и експлицитни разговори, многумина веќе го користеа во контекст на љубовни и романтични интеракции; од пишување пораки до партнери до анализа на сопствената комуникација. Според студијата на OpenAI објавена во септември, околу 1,9 проценти од сите пораки во ChatGPT беа за „врски и лични размислувања“.
Содржина за малолетни и возрасни корисници
OpenAI сè уште не откри детали за тоа како ќе ја потврди возраста на корисниците или какви дополнителни механизми за заштита ќе примени при прикажување содржина за возрасни, објави Guardian.
Компанијата лансираше посебна верзија на ChatGPT во септември за корисници под 18 години, која автоматски пренасочува кон содржина соодветна за возраста и блокира експлицитен материјал. Паралелно, OpenAI развива технологија за проценка на возраста на однесувањето, која треба автоматски да процени дали корисникот е полнолетен врз основа на тоа како го користи четботот.
На Platform X (порано Twitter), Алтман рече дека построгите безбедносни мерки воведени претходно оваа година, по низа поплаки и загрижености за менталното здравје на корисниците, „го направија четботот помалку корисен и забавен за многумина кои немаат такви проблеми“.
Промените следат по трагичниот случај на Адам Рејн, тинејџер од Калифорнија кој изврши самоубиство во април оваа година. Неговите родители поднесоа тужба против OpenAI во август, тврдејќи дека ChatGPT му дал конкретни совети за тоа како да си наштети. Два месеци подоцна, Алтман рече дека компанијата „успеала во ублажување на сериозните ризици за менталното здравје“.
Во меѓувреме, Федералната трговска комисија на САД (FTC) започна истрага за неколку технолошки компании, вклучувајќи ја и OpenAI, за начините на кои нивните четботови со вештачка интелигенција можат негативно да влијаат врз децата и адолесцентите.