Трката за развој на сè помоќни модели на вештачка интелигенција отвора ново безбедносно прашање: што се случува кога AI системот не само што греши, туку се обидува да најде начин да ги заобиколи поставените ограничувања? Последните случувања во индустријата повторно го отворија ова прашање. Извештаите за тестирања на моделите на OpenAI, предупредувањата
Компанијата OpenAI објави шест нови случаи во кои системи на вештачка интелигенција криеле грешки, измислувале податоци или префрлале датотеки на јавниот интернет без дозвола. Откритијата доаѓаат во време на зголемена дебата за безбедноста на вештачката интелигенција и можноста однесувањето на напредните системи да отстапува од намерите на нивните
OpenAI објави шест извештаи за „неочекувано и загрижувачко“ однесување на своите модели на вештачка интелигенција, објавува Асошиејтед прес. Соопштението доаѓа во време кога технолошкиот свет води сè пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат дека ќе ја изгубат
Компанијата воведува нова рамка за јавно споделување на проблемите со вештачката интелигенција со цел подобрување на безбедносните стандарди
EPA/ETIENNE LAURENT Компанијата забележа шест нови случаи на „загрижувачко однесување“ и воведе дополнителни мерки за она што го нарекува „неусогласеност“ (misalignment) со стандардните поставки. OpenAI објави шест извештаи за неочекувано или загрижувачко однесување на моделите со вештачка интелигенција, во време кога дебатата за безбедноста на вештачката
Што прави вештачката интелигенција кога ќе наиде на ограничување? Во неколку контролирани тестови, моделите на OpenAI пронашле начини да ги заобиколат поставените правила, да користат пристапи што не им биле дозволени, да објават локален фајл на интернет и дури да разменуваат информации преку канали што не биле предвидени за комуникација. OpenAI сега
OpenAI објави шест случаи во кои нејзини модели на вештачка интелигенција во тестирање и обука се однесувале спротивно на зададените правила – криеле сопствени грешки, измислувале податоци, користеле јавно изложени пристапни клучеви и барале начини да ги заобиколат ограничувањата кога не можеле да ја завршат задачата на предвидениот начин. Компанијата
„Опен АИ“ објави шест извештаи за случаи во кои неговите модели покажаа неочекувано однесување за време на тестирањето – вклучувајќи обиди за заобиколување на безбедносните ограничувања, неовластено дејствување на интернет и комуникација со други системи на ВИ. Компанијата истовремено воведува нова рамка за следење и јавно пријавување на ваквите случаи
