Служители в компании за ИИ с плашещо предупреждение: Може да се създаде вирус
Ръководителят на „Антропик“ Дарио Амодей предлага създаването на система за независим мониторинг на изкуствения интелект още по време на разработването на моделите. Идеята цели да гарантира по-голяма прозрачност и контрол върху процеса на обучение и усъвършенстване на AI системите. Според Амодей подобен механизъм би позволил на външни експерти да следят за рискове и нарушения, преди моделите да бъдат пуснати в масова употреба.
Източник: