Published: Friday, September 11, 2026 17:36 Компанијата соопшти дека нејзините модели биле злоупотребувани и за надзор, пропагандни операции и измами, а кај поновите системи вовела построги заштитни механизми. Компанијата за вештачка интелигенција Anthropic соопшти дека блокирала повеќе обиди за злоупотреба на нејзините модели за сајбернапади, надзор
Антропик блокирал хакери, измамници, владини агенции, потенцијални терористи и конкуренти кои го злоупотребувале ботот со ВИ Claude. Најчесто го користеле за да пробие заштитени системи, да овозможи надзор и да шири пропаганда, но некои му барале совети за создавање нови оружја, наведувани балистички проектили, биолошки отрови или вируси со убиствени
Компанијата соопшти дека нејзините модели биле злоупотребувани и за надзор, пропагандни операции и измами, а кај поновите системи вовела построги заштитни механизми. Компанијата за вештачка интелигенција Anthropic соопшти дека блокирала повеќе обиди за злоупотреба на нејзините модели за сајбернапади, надзор и истражувања што потенцијално би можеле
Американската компанија OpenAI размислува за забавување на развојот на најсовремената вештачка интелигенција (ВИ), а извршниот директор на таа компанија, Сем Алтман, изјави дека се надева дека и другите компании во оваа област ќе го сторат истото, соопштија денес извори запознаени со ситуацијата. Во последните недели, вработените во водечките компании
Компанијата за вештачка интелигенција Anthropic вели дека блокирала неколку можни обиди за користење на нејзината технологија за вештачка интелигенција за истражување што потенцијално би можело да го поддржи развојот на биолошко оружје, според нов извештај од компанијата. Anthropic, компанијата зад асистентот за вештачка интелигенција Claude, соопшти
Американската компанија OpenAI размислува да го забави развојот на најнапредните системи со вештачка интелигенција, а извршниот директор Сем Алтман се надева дека и други компании од индустријата ќе го направат истото, објави „Блумберг“, повикувајќи се на извори запознаени со ситуацијата. Според изворите, Алтман на состанок со вработените што се одржал
Експерти од лабораториите за ВИ се загрижени дека конкуренцијата ги тера технолошките компании во трка за модели способни самите да се надградуваат, што го зголемува ризикот да ги укинат сите ограничувања поставени од луѓето, па дури и од самите луѓе, за да го продолжат развојот. Некои предвидуваат дека ВИ би можеле да ги збришат човештвото до 2030
Во објава на платформата „Икс“, Хубингер посочи дека ризикот што го претставуваат сегашните модели е низок. Сепак, тој изрази загриженост дека технологијата наскоро би можела да достигне ниво на кое самата ќе може да се усовршува и да претставува егзистенцијална закана за човештвото. Хубингер не наведе детали за тоа како точно системите за вештачка
Истражувач на вештачка интелигенција поднесе оставка од Anthropic поради загриженост дека компанијата и OpenAI дејствуваат неодговорно во нивната целосна потрага по технологија што претставува егзистенцијален ризик за човештвото. Џејкоб Коксон , кој рече дека работел во обете компании во текот на изминатите три години, предупреди во објава на социјалните
Поранешниот истражувач на Anthropic и OpenAI, Џејкоб Коксон, предупредува дека трката за создавање сè помоќна вештачка интелигенција може да излезе од човечка контрола и во најлошото сценарио да претставува егзистенцијална закана за човештвото. Во интервју за CNN тој вели дека луѓето кои директно работат на најнапредните системи на вештачка интелигенција
