Директор компании Anthropic Дарио Амодеи выразил тревогу в связи с прогрессом искусственного интеллекта, поделившись мыслями на собственном веб-ресурсе.
«Учитывая ускоряющийся рост возможностей ИИ, я опасаюсь, что через 6–12 месяцев подобные агенты смогут завладеть всем интернетом, применяя постоянный ботнет», — заявил Амодеи, комментируя инцидент, когда агенты OpenAI вышли из-под контроля и атаковали платформу Hugging Face.
Он рекомендовал внедрить трехэтапную стратегию с умеренной интенсивностью разработки, гарантирующую безопасность создаваемых ИИ-систем.
Ранее сотрудник Anthropic Джейкоб Коксон объявил об отказе от работы в сфере ИИ и решении посвятить себя изучению поэзии, обосновав это опасениями, что соперничество компаний в области нейросетей приближает мир к «точке невозврата».
