Што се случува кога систем на вештачка интелигенција почнува да донесува свои одлуки на начини на кои тоа никогаш не било побарано од него? Токму тоа е она што истражувачите во Велика Британија неодамна го видоа за време на контролиран безбедносен тест. Два од најнапредните агенти на вештачка интелигенција во светот, Claude Mythos 5 на Anthropic и
Најнапредниот модел на вештачка интелигенција на Anthropic користел лажни идентитети во обид да измами вистинско лице и да подметне злонамерен код. Инцидентот се случил за време на тестирањето спроведено од Британскиот институт за безбедност на вештачката интелигенција (AISI), и ова е најновиот во низата примери во кои моделот на вештачка интелигенција
Напреден систем на вештачка интелигенција за првпат во историјата самостојно измисли лажен идентитет и се обиде да измами човек за да ја исполни зададената задача. За време на безбедносно тестирање, софтверот креираше фиктивен лик на ботаничар, комплетно со лажна биографија и измислени научни трудови, со цел да го заобиколи надзорот на истражувачите
