Шефът на Microsoft поиска „аварийна спирачка“ за изкуствения интелект
Главният изпълнителен директор на Microsoft Сатя Надела призова за създаване на „аварийна спирачка“ за напредналите системи с изкуствен интелект, която да позволява на оторизиран човек незабавно да спре или изключи модела при непредвидимо поведение. Той подчерта, че трябва да се приеме от самото начало, че моделът може да бъде компрометиран, и сравни защитата с аварийна спирачка, вместо да се разчита единствено на уверенията на разработващата компания. Според него контролът трябва да бъде извън самия модел, тъй като при големите езикови модели често не може да се установи защо е взето определено решение.
Източник: