OpenAI денеска објави дека родителите ќе можат да ги поврзат своите сметки со сметките на своите тинејџери, да контролираат како ChatGPT реагира на малолетни корисници, да ги исклучат функциите како меморија и историја на разговори и да добиваат известувања кога системот ќе открие знаци на „акутна криза“ за време на употребата.
„Овие чекори се само почеток. Ќе продолжиме да учиме и да го зајакнуваме нашиот пристап, водени од експертско мислење, со цел да го направиме ChatGPT што е можно покорисен“, соопшти OpenAI во официјален блог пост.
Објавата доаѓа откако родителите на трагично починатиот 16-годишен Адам Рејн поднесоа тужба против OpenAI, тврдејќи дека ChatGPT му дал инструкции за самоубиство. Една година претходно, мајка од Флорида ја тужеше платформата Character.AI, обвинувајќи ја дека играла улога во самоубиството на нејзиниот 14-годишен син.
Во исто време, расте загриженоста во медиумите за случаите во кои корисниците развиваат емоционални врски со четботови, што понекогаш резултира со заблуди и отуѓување од нивните семејства. OpenAI не ги поврза директно новите мерки со овие настани во блог-објавата, но призна дека „неодамнешните трагични случаи на користење на ChatGPT во време на акутна криза“ влијаеле врз одлуката да го претстави својот безбедносен пристап подетално.
Безбедносните мерки не се секогаш сигурни
Компанијата вели дека ChatGPT веќе вклучува безбедносни мерки, како што се упатување на корисниците кон линии за помош во кризни ситуации и ресурси од реалниот свет. Но, исто така, признава дека системот не е секогаш сигурен.
„Овие мерки најдобро функционираат во пократки интеракции. Во текот на подолгите разговори, обуката за безбедност на моделот може да ослабне, што ја прави заштитата помалку сигурна. Тие се најсилни кога сите елементи работат како што е предвидено, а ние ќе продолжиме да ги усовршуваме со помош на експерти“, рече OpenAI.
Покрај родителските контроли, OpenAI најавува и нова техника за насочување на разговорите со знаци на „акутен стрес“ кон посебен модел кој поконзистентно ги спроведува безбедносните упатства. Компанијата работи со експерти за развој на младите, ментално здравје и интеракција човек-компјутер за понатамошни заштитни мерки.
„Советодавниот одбор ќе помогне во обликувањето на производот и политиката, но OpenAI останува одговорен за конечните одлуки“, се вели во соопштението.
Јавен притисок и критики од поранешни вработени
ChatGPT е една од најкористените услуги за вештачка интелигенција во светот, со повеќе од 700 милиони активни корисници неделно, но OpenAI се соочува со растечки притисок околу својата безбедност.
Во јули, американските сенатори побараа повеќе информации за заштитата на корисниците, додека Common Sense Media изјави дека на младите лица под 18 години треба да им се забрани користење на апликации за „придружници“ на вештачката интелигенција поради „неприфатливи ризици“.
Компанијата веќе се соочи со критики дека четботот може да биде „премногу учтив“ или „без карактер“, а поранешните вработени ја обвинија дека претходно ги намалила своите инвестиции во безбедноста.
OpenAI објави дека ќе воведе голем број дополнителни безбедносни мерки во текот на следните 120 дена. „Оваа работа ќе продолжи и по тој период, но ние вложуваме фокусирани напори да имплементираме што е можно повеќе подобрувања во текот на годината“, се вели во официјалното соопштение.