Трудно е да си представим как се е почувствал, след като е видял бруталния отговор, който му е дал изкуственият интелект.
Един от най-големите проблеми с изкуствения интелект, или "AI" чатботовете, е така наречената "халюцинация" - фабрикуването на информация. В някои случаи това може да е безобидно, но в други може да бъде изключително опасно.
Норвежецът Arve Hjalmar Holmen научи от първа ръка колко сериозни могат да бъдат подобни грешки.
Той поиска от "ChatGPT" информация за него и отговорът, който получи, го остави в шок. А именно чатботът OpenAI му писа, че е убил двама от синовете си и се е опитал да убие и третият! "ChatGPT" също подчерта, че това престъпление шокира местната общност и цялата нация, привличайки огромно медийно внимание.
Снимка: YouTube
Най-страшното е…
Трудно е да си представим как се е почувствал този човек, докато е чел тези неверни твърдения за себе си, още повече, че изкуственият интелект точно е изброил някои точни подробности – броя на децата му, разликата във възрастта им и града, в който живее. „Най-страшното нещо е мисълта, че някой може да прочете това и да повярва, че е истина“, каза Холман пред BBC.
Снимка: YouTube
Той обжалва пред Норвежката агенция за защита на данните и поиска OpenAI да бъде санкциониран. Междувременно Европейският център за цифрови права (Noyb) заведе дело от негово име, отбелязвайки, че отговорът на "ChatGPT" е не само клеветнически, но и че използването на точни лични данни нарушава правилата на ЕС за защита на данните.
Въпреки че OpenAI се дистанцира от възможни грешки и халюцинации, Нойб казва, че това не е достатъчно, тъй като изкуственият интелект не може да разпространява неконтролируема информация, особено толкова сериозна и плашеща.
Това не е единичен случай
Случаите на изфабрикувана информация от "AI" не са рядкост и не се ограничават само до "OpenAI". Достатъчно е да си припомним проблемите на "Гугъл", когато заради халюцинации на техния изкуствен интелект стойността на компанията падна с над 100 млрд. долара. По подобен начин Apple наскоро изключи своята базирана на изкуствен интелект система за събиране на новини от множество източници, след като многократно неправилно обобщава новини и изпраща фалшиви известия до потребителите.
Снимка: YouTube
