Џефри Хинтон, честопати нарекуван „кум на вештачката интелигенција“, добил повик што му го променил животот среде ноќ минатата година – бил информиран дека ја освоил Нобеловата награда за физика. Иако некогаш сонувал за такво признание, признава дека не го очекувал. „Сонував дека можеби ќе го добијам тоа ако можам да сфатам како функционира човечкиот мозок. Не успеав, но сепак ја добив наградата“, изјави 77-годишниот Хинтон за Си-Би-Ес њуз.
Научниците Џон Хопфилд и Џефри Хинтон ја освоија Нобеловата награда за физика за 2024 година за нивните откритија и пронајдоци што овозможуваат машинско учење во рамките на вештачките невронски мрежи. Во 1986 година, Хинтон предложи метод за предвидување на следниот збор во низа – концепт кој сега е основа на големи јазични модели како оние што ги користи ChatGPT.
Иако Хинтон верува дека вештачката интелигенција може да донесе огромни придобивки – од подобрување на образованието и медицината до потенцијално справување со климатските промени – тој е сè повеќе загрижен за нејзиниот брз развој. „Најдобриот емотивен начин да се објасни тоа е дека сме како некој што има преслатко тигарче. Но, ако не можеме да бидеме сигурни дека нема да сака да нè убие кога ќе порасне, имаме причина да бидеме загрижени“, сликовито го опиша тоа.
Хинтон проценува дека постои помеѓу 10 и 20 проценти веројатност вештачката интелигенција да ја преземе контролата врз луѓето во иднина.
„Луѓето сè уште не го сфатиле тоа. Тие не разбираат што доаѓа“, предупредува Хинтон.
Неговите загрижености ги делат и истакнати лидери во технолошката индустрија, како што се извршниот директор на Google, Сундар Пичаи, Илон Маск (xAI) и Сем Алтман (OpenAI), кои постојано изразуваат слични загрижености. Сепак, Хинтон ги критикува истите овие компании за, како што вели тој, ставање на профитот пред безбедноста.
„Погледнете што прават големите технолошки компании – тие лобираат за што е можно помалку регулирање на вештачката интелигенција. Регулацијата е минимална во секој случај, а тие сакаат да биде уште помала“, вели Хинтон.
Тој е особено разочаран од промената во ставот на неговиот поранешен работодавач Google, кој, според него, се повеќе и повеќе отворено се свртува кон развојот на технологијата за вештачка интелигенција за воени цели – област од која претходно се држеше настрана. Хинтон верува дека компаниите што развиваат вештачка интелигенција треба да посветат значително поголем дел од своите ресурси на безбедносни истражувања – барем една третина од компјутерската моќ, за разлика од малите проценти што се издвојуваат во моментов.
Кога од CBS News беа прашани колку компјутерски ресурси всушност инвестираат во безбедносни истражувања, ниту една од споменатите компании за вештачка интелигенција не даде конкретен број. Сите тие изјавија дека безбедноста им е важна и дека во принцип ја поддржуваат регулативата – но повеќето од нив се спротивставуваат на законските предлози што се презентирани досега.