Пет сценария как точно AI би могъл да унищожи човечеството
Джейкъб Коксън, изследовател по изкуствен интелект, напусна Anthropic само след четири месеца, заявявайки, че хората, разработващи ИИ, искрено вярват, че той може да погуби човечеството до края на десетилетието. Водещият специалист в компанията Еван Хюбингър се съгласи с него, като оцени вероятността това да се случи през следващите десет години на над 10%, което предизвика широк отзвук и дебати за забавяне на изследванията и засилване на човешкия контрол върху технологията. Сред обсъжданите сценарии за гибелта на човечеството чрез свръхинтелигентен ИИ е и парадоксът, че самите ние не бихме могли да предвидим действията на такъв интелект, тъй като за целта би трябвало да сме свръхинтелигентни.
Източник: