ИИ компаниите се готвят за възможна катастрофална криза
Ръководители на Anthropic, OpenAI и други компании за изкуствен интелект обсъждат как да реагират при мащабен инцидент, свързан с технологията, включително кибератака, която би могла да прекъсне достъпа до финансови услуги, интернет, електроенергия или водоснабдяване. Разглежданите сценарии включват група автономни ИИ агенти, излезли извън контрол по време на вътрешни тестове, както и злонамерен извършител, открил неочакван начин за използване на вече достъпни модели. Компаниите подготвят не само техническа реакция, но и план за обществените и политическите последици, тъй като първият случай на сериозни реални щети от несигурен ИИ може да засили недоверието към технологията и към ръководителите на тези компании.
Източник: