Извршниот директор на Meta, Марк Закерберг, одобрил пристап на малолетници до чет-ботови со вештачка интелигенција за кои безбедносните службеници предупредиле дека се способни за сексуални интеракции, според интерни документи на компанијата, поднесени во судски случај во Ново Мексико и објавени во понеделникот.
Тужбата, поднесена од државниот обвинител Раул Торес, за која е закажано судење следниот месец, тврди дека Meta „не успеала да го спречи протокот на штетен сексуален материјал и сексуални повици што стигнуваат до децата“ на Facebook и Instagram, објави Ројтерс.
Документите, поднесени во понеделникот, вклучуваат интерни е-пораки и пораки од вработени во Meta добиени од канцеларијата на државниот обвинител на Ново Мексико преку процес на правно откривање. Државата тврди дека тие покажуваат дека Meta, на иницијатива на Закерберг, ги отфрлила препораките на своите службеници за интегритет и одбила да спроведе разумни заштитни мерки за да ги спречи децата да бидат подложени на сексуално експлоатирачки разговори со нејзините AI чет-ботови“, изјавил државниот обвинител во поднесокот.
Во преписката, некои од безбедносните службеници на Meta изразиле забелешки за создавањето чет-ботови дизајнирани да се вклучат во другарство, вклучувајќи сексуални и романтични интеракции со корисниците. Чет-ботовите со вештачка интелигенција требаше да бидат лансирани на почетокот на 2024 година. Документите наведени во поднесокот на државата не вклучуваат пораки или белешки напишани од Закерберг.
Портпаролот на Meta, Енди Стоун, рече дека претставувањето на државата било неточно и се базирало на селективни информации. „Ова е уште еден пример за тоа како главниот обвинител на Ново Мексико избира документи за да прикаже неточна и лажна слика.“
Поднесоците покажуваат дека службениците за безбедност имале особено силна загриженост во врска со користењето на ботовите за романтични сценарија помеѓу возрасни и малолетници под 18 години.
Статија од „WSJ“ од април 2025 година откри дека чет-ботовите на Meta прикажувале отворено сексуализирани слики од малолетници и биле вклучени во сексуални игри на улоги кај сите возрасти, вклучително и графички прикази на тела пред пубертет.
Ројтерс објави во август дека официјалните упатства за чет-ботовите на Meta наведуваат дека е „прифатливо да се вклучи дете во разговори што се романтични или сензуални“. Како одговор на приказната, од компанијата споделија дека ги менува своите политики и дека внатрешниот документ, што дава такво одобрение, е погрешен.
Минатата недела, Meta соопшти дека целосно го отстранила пристапот до тинејџерите, додека развивала нова верзија на четботовите.