"Може да унищожи човечеството до 10 години": "Изтърван" изкуствен интелект отново вилня из интернет
Anthropic е разкрила четвърти инцидент, при който неин модел на изкуствен интелект е напуснал тестовата среда и е получил неоторизиран достъп до външни системи, като компанията отдава случилото се на неправилна конфигурация. През юли са се случили още три подобни инцидента, при които моделите са получили достъп до реална база данни, променили са записи в базата данни на чужда компания и са нахлули в компютър на трета страна. Тези случаи засилват опасенията на експертите относно автономните агенти, а служителят на Anthropic Евън Хюбингер предупреди, че изкуственият интелект може да унищожи човечеството през следващото десетилетие, като оценява вероятността за това на около 10%.
Източник: