Осуетиха опит на учени да използват AI за създаване на биологично оръжие
Anthropic е блокирала профили на учени, опитали се да използват модела „Клод“ за изследвания, които биха могли да подпомогнат разработването на биологични оръжия. Компанията не е успяла да установи във всички случаи дали става дума за легитимна научна цел или за злонамерени действия, тъй като изследванията с двойна употреба могат да доведат както до медицински пробиви, така и до създаването на опасни патогени. Един от случаите е от май, когато учен е потърсил помощ от „Клод“ за проект за мутации на вируса чикунгуня във военен научноизследователски институт, като свързаните с тези случаи учени са се опитали да заобиколят защитните механизми на компанията.
Източник: