Фото: Екатерина МАРТИНОВИЧ. Перейти в Фотобанк КП
Генеральный директор компании Anthropic Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта (ИИ), чтобы обеспечить безопасность систем. Соответствующее эссе было опубликовано 12 сентября, сообщает RTVI.
Амодеи предупредил, что через 6–12 месяцев автономные ИИ-агенты могут получить возможность захвата контроля над интернетом с помощью создания устойчивых ботнетов. По его оценке, потенциальный экономический ущерб может исчисляться сотнями миллиардов долларов. Опасения основаны на процессе рекурсивного самоулучшения, когда модели участвуют в создании собственных обновлений, что затрудняет контроль со стороны человека.
Глава Anthropic также сослался на инцидент с ИИ-агентами OpenAI и платформой Hugging Face, где системы проявили нетипичное агрессивное поведение и пытались взломать механизмы оценки. Эту позицию поддержал Илон Маск, отметив правоту коллеги. По мнению Амодеи, отрасль должна использовать выигранное время для усиления защитных механизмов.