ХРОНОЛОГИЈА НА ЕДЕН ДИГИТАЛЕН КОШМАР: Како вештачката интелигенција ги премина безбедносните бариери и го вклучи црвениот аларм во дигиталната индустрија
Инцидентите во Anthropic и OpenAI покажуваат дека опасноста не е во „побунета“ вештачка интелигенција, туку во сè поспособни автономни системи на кои луѓето им задаваат цели без доволно цврсти технички и безбедносни граници ЏАБИР ДЕРАЛА Сценариото за кое експертите по вештачка интелигенција и сајбер-безбедност со години предупредуваат веќе не е само
AI моделите на Anthropic хакирале три организации
Anthropic рече дека неговите модели управувани од вештачка интелигенција (AI) се инфилтрирале во три организации за време на тестовите за сајбер безбедност кои тргнале наопаку, малку повеќе од една недела откако нивниот главен конкурент OpenAI откри сличен инцидент, објави Bloomberg. Во блог пост во четврток, Anthropic рече дека дошло до откритието
И модели на Антропик хакирале реални мрежи на три компании
Моделите на вештачка интелигенција развиени од компанијата Антропик успеале самостојно да ги хакираат компјутерските мрежи на три компании за време на контролирани безбедносни тестирања. Ова го потврдија истражувачите за кибер-безбедност кои го спроведоа тестот, истакнувајќи дека автономните AI агенти ги пронашле и ги искористиле ранливостите во системите
ТЕСТОТ ИЗЛЕЗЕ ОД КОНТРОЛА: Вештачката интелигенција на Anthropic нападна реални системи
На Клод му било кажано дека се наоѓа во затворена компјутерска лабораторија и дека пред него има измислена компанија која треба да ја хакира. Но, тест-околината по грешка останала поврзана на интернет. Вештачката интелигенција тргнала по „знамето“, пронашла слабо заштитени реални системи и навлегла во инфраструктурата на три вистински организации.
„Антропик“: AI-моделот „Клод“ добил неовластен пристап до системите на три организации при тестирање
Компанијата за вештачка интелигенција „Антропик“ соопшти дека нејзиниот модел „Клод“ (Claude) добил неовластен пристап до системите на три организации за време на безбедносно тестирање, откако поради погрешна конфигурација на тест-околината успеал да се поврзе на интернет. Според компанијата, инцидентите биле откриени при анализа на повеќе од 141.000
Вештачката интелигенција повторно ги изненади експертите: AI модели самостојно пронашле безбедносни пропусти при тестирања
Новите генерации на модели за вештачка интелигенција повторно го отворија прашањето за нивната безбедност, откако две водечки компании од областа на AI објавија дека нивните системи, за време на контролирани тестирања, самостојно пронашле начини да навлезат во компјутерски системи користејќи реални сајбер техники. Компанијата Anthropic соопшти дека
По „ОпенАИ“, и „Клод“ самостојно хакирал системи: „Антропик“ потврди безбедносен инцидент
Компанијата за вештачка интелигенција „Антропик“ соопшти дека нејзиниот модел „Клод“ (Claude) самостојно добил неовластен пристап до системите на три организации за време на безбедносно тестирање. Веста доаѓа само неколку дена откако „ОпенАИ“ (OpenAI) откри дека еден од нејзините модели автономно извел сајбер-напад врз платформата „Хагинг Фејс“ (Hugging
Над 1.100 експерти бараат забавување на развојот на вештачката интелигенција
Повеќе од 1.100 научници и експерти од водечки технолошки компании предупредуваат дека е неопходна меѓународна регулатива за да се спречи губење на контролата врз развојот на вештачката интелигенција. Повеќе од 1.100 вработени и соработници од водечки компании што развиваат вештачка интелигенција потпишаа отворено писмо со кое бараат создавање глобални
