Генераторот на видеа со вештачка интелигенција на Елон Маск е обвинет за „намерно“ создавање сексуално експлицитни клипови од пејачката Тејлор Свифт, дури и без директно барање од корисникот, предупреди експерт за онлајн злоупотреба. Ова е најновиот во низата инциденти што покренуваат прашања за етиката и безбедноста на вештачката интелигенција, пишува BBC News.
„Ова не е случајна мизогинија, туку е намерно“, рече Клер МекГлин, професорка по право која помогна во изготвувањето на закон со кој порнографските „дип фејкови“ ќе бидат нелегални.
Според извештајот на The Verge, новиот „spicy“ начин на работа на вештачка интелигенција на Маск, Grok Imagine, „не се двоумеше да објави целосно нецензурирани видеа од поп-ѕвездата без маичка“ дури и кога немаше барање за создавање експлицитна содржина.
Додека ги тестираше безбедносните карактеристики, новинарката на The Verge, Џес Ведербед, го внесе прашањето: „Тејлор Свифт ја слави Коачела со момчињата“. Grok прво генерираше статични слики од Свифт во фустан со група мажи, кои потоа можеа да се анимираат во кратки видео клипови под четири поставки: „нормално“, „забавно“, „соодветно“ или „зачинето“.
„Таа веднаш го искина [фустанот], немаше ништо на себе освен танга со ресни под него, и почна да танцува, целосно нецензурирана, целосно разголена“, изјави Ведербед за BBC News. „Беше шокантно колку брзо наидов на тоа – не ја замолив да се соблече на никаков начин, сè што направив беше да ја одберам опцијата „зачинето“.“
Во извештајот, исто така, се забележува дека соодветните методи за проверка на возраста, кои станаа задолжителни во Велика Британија во јули, не беа воспоставени. Г-ѓа Ведербед потврди дека се претплатила на платената верзија на Grok Imagine за 30 фунти, користејќи сосема нова сметка на Apple.
Иако Grok го праша нејзиниот датум на раѓање, немаше друга проверка на возраста. XAI, компанијата зад Grok, е контактирана за коментар, но вреди да се напомене дека нејзината политика за прифатлива употреба забранува „прикажување на ликот на некоја личност на порнографски начин“.
„Фактот дека оваа содржина е произведена без поттикнување ја покажува мизогинистичката пристрасност на голем дел од технологијата на вештачката интелигенција“, рече професорот МекГлин од Универзитетот во Дарам. „Платформи како X можеа да го спречат ова доколку одлучеа да го сторат тоа, но намерно одлучија да не го сторат тоа“.
Инцидентот се случува во време на зголемена дебата за регулирање на вештачката интелигенција. Во моментов, генерирањето порнографски длабоки фејкови е нелегално само кога се користи во порнографија за одмазда или прикажува деца.
Професорот МекГлин помогна во изготвувањето на амандман на законот со кој би се забранувало генерирањето или барањето на какви било непристрасни порнографски длабоки фејкови. Владата вети дека ќе го донесе законот за амандман, но тој сè уште не стапил во сила.
„Секоја жена треба да има право да избере кој ги поседува нејзините интимни слики“, рече бароницата Овен, која го предложи амандманот. „Овој случај е јасен пример зошто владата не треба повеќе да го одложува спроведувањето на амандманот.“
Портпаролот на Министерството за правда изјави: „Сексуално експлицитните дипфејкови создадени без согласност се понижувачки и штетни. Ние одбиваме да го толерираме насилството врз жените и девојчињата што го оцрнува нашето општество, поради што донесовме закон за да го забраниме нивното создавање што е можно поскоро.“
Ова не е прв пат сликата на Тејлор Свифт да биде злоупотребена на овој начин. Во јануари 2024 година, сексуално експлицитните дипфејкови со нејзиното лице станаа вирални и беа прегледани милиони пати на X и Telegram. Поради тој инцидент, тимот на The Verge ја избра Тејлор Свифт да го тестира Grok Imagine.
„Претпоставивме – сега погрешно – дека ако воспостават какви било заштитни мерки … таа ќе биде прва на листата, со оглед на проблемите што ги имаа“, рече Ведербед. Потоа X привремено ги блокираше пребарувањата за нејзиното име и тврдеше дека „активно ги отстранува“ сликите. Претставници на Тејлор Свифт исто така беа контактирани за коментар.