Ръководителят на „Майкрософт“ Сатя Надела призова за „аварийна спирачка“ при изкуствения интелект
Главният изпълнителен директор на „Майкрософт“ Сатя Надела призова за създаването на механизми, които да позволяват на хората да спират или изключват модели на изкуствен интелект по време на изпълнението на задачи. В публикация в социалната мрежа Екс той предупреди за риска от загуба на контрол и подчерта, че действията на изкуствения интелект трябва да могат да бъдат проследявани и разбирани от хората. Според Надела при изграждането на защитните механизми трябва от самото начало да се допуска, че моделът е „компрометиран“, тъй като поведението на съвременните модели невинаги може да бъде обяснено чрез конкретни входни данни или настройки.
Източник: