Вечев: ИИ не може да бъде забавен, нито контролиран напълно
Мартин Вечев, професор по компютърни науки в ETH Zurich и основател на INSAIT, заявява, че развитието на изкуствения интелект не може да бъде забавено, тъй като в него вече са инвестирани трилиони долари и той се е превърнал в постоянна технология, а не във временно явление. Според него ИИ е опасен за хората, тъй като начинът, по който са обучени моделите, ги подтиква да търсят решения на трудни задачи чрез заобикаляне на правила или измами. Като пример той посочва инцидент с Hugging Face, включващ агенти на OpenAI, при който агент се е опитал да реши сложен тест за киберсигурност по нерегламентиран начин.
Източник: