Кон крајот на март, OpenAI додаде нови можности за генерирање слики на својот водечки производ, ChatGPT. Ажурирањето стана вирално, што доведе до голем број слики генерирани со вештачка интелигенција на социјалните мрежи и привлече милиони корисници на платформата.
Сепак, новото истражување на фирмата за сајбер безбедност Cato Networks откри дека корисниците сега можат да го измамат ChatGPT да креира различни лажни документи, вклучувајќи пасоши и возачки дозволи. Може да се користи и за создавање убедливи фалсификувани чекови и сметки.
Портпаролот на OpenAI, Таја Кристијансон, рече: „Нашата цел е да им дадеме на корисниците што е можно повеќе креативна слобода“. Сликите генерирани од ChatGPT вклучуваат метаподатоци C2PA за да ги идентификуваат како генерирани со вештачка интелигенција. OpenAI презема мерки против поединци кои ја прекршуваат политиката за користење на платформата.
Лажните документи завршуваат на „темната мрежа“
Етај Маор, главен безбедносен стратег во Cato Networks, кој ги проучува сајбер бандите веќе 20 години, рече дека таквите фалсификувани документи обично се продаваат на темната мрежа и претходно биле тешко да се добијат. Но, благодарение на алатките како ChatGPT, создавањето реални лажни документи стана неспоредливо полесно и побрзо.
Документите како пасоши и возачки дозволи се клучни за потврдување на идентитетот на една личност. Изменетите документи им ја отвораат вратата на криминалците да извршат финансиски и медицински измами. Последиците од злоупотребата се широки и далекусежни, од пристап до банкарски сметки до злоупотреба на рецепти, рече Маор.
„Веќе не мора да биде професионален криминалец. Секој може да го стори тоа сега. И тоа е она што навистина загрижува“, рече тој. За неколку секунди, тој можеше да добие ChatGPT за да создаде лажен пасош на личност која донекаде личеше на него.
Употребата на вештачка интелигенција од страна на сајбер-криминалците не е нова појава. ChatGPT и другите алатки за вештачка интелигенција веќе се користат за пишување злонамерен код, креирање е-пошта за фишинг и унапредување на сајбер напади. Не се работи само за текстуални алатки. Технологиите за говор, слика и видео дополнително им помагаат на криминалците во извршувањето на сложени измами.
„Сите тие различни елементи кои градат доверба – стилот на една личност, нивниот изглед, гласот, официјалните документи – сите тие градежни блокови на доверба исчезнуваат“, рече Маор.
Инвазија на студенти-ботови на универзитетите
Колеџите ширум САД се соочуваат со напад на студенти „ботови“ кои масовно се запишуваат на курсеви за да извлечат десетици милиони долари од државни и федерални фондови, објави „Гласот на Сан Диего“. Овие студенти „бот“ користат лажни имиња и поднесуваат домашни задачи генерирани од вештачка интелигенција за да останат „запишани“ доволно долго за да добијат помош. Во 2024 година, околу 25% од апликациите за колеџ во Калифорнија беа од ботови.
Вештачката интелигенција нека ги праша бабата и дедото за нивното здравје
Стартапот InTouch користи вештачка интелигенција за да ги повика вашите родители или баби и дедовци, да ги провери и да го води разговорот ако немате време, објави 404 Madia. AI може да се охрабри да зборува и да поставува прашања за одредени теми. По разговорот, лицето кое го договорило повикот добива резиме на разговорот генерирано со вештачка интелигенција и белешки за расположението на соговорникот.
„Идејата вештачка интелигенција да ги повикува вашите осамени роднини затоа што не можете или не сакате е дистописка, навредлива и особено нехумана – дури и повеќе од другите креации со вештачка интелигенција“, пишува Џоф Кокс.