Более 800 публичных личностей, включая «крёстных отцов» ИИ и фигур из мира науки, подписали открытое письмо с требованием запретить разработку сверхинтеллектуального ИИ

Открытое письмо, подписанное более 800 публичными личностями, включая учёных, политиков и знаменитостей, призывает к запрету на разработку сверхинтеллектуального ИИ (AGI) до тех пор, пока не будет достигнут широкий научный консенсус относительно его безопасности и управляемости.

Среди подписантов — пионеры ИИ Джеффри Хинтон и Йошуа Бенжио, сооснователь Apple Стив Возняк, основатель Virgin Group Ричард Брэнсон, а также Принц Гарри и Меган Маркл.

Письмо выражает обеспокоенность по поводу рисков, связанных с созданием ИИ, способного превзойти человека по всем когнитивным задачам, включая утрату контроля и даже вымирание человечества.

Иллюстрация: Sora

Авторы письма подчёркивают, что несмотря на потенциальные выгоды от ИИ, такие как улучшение здравоохранения и повышение благосостояния, стремление к созданию AGI в ближайшее десятилетие вызывает серьёзные опасения.

Письмо организовано Институтом будущего жизни (FLI), который ранее в 2023 году призывал к приостановке разработки ИИ-систем, …