Существует система, способная регулировать рост искусственного интеллекта. Об этом сообщил эксперт в сфере ИИ и управления знаниями Владимир Лещенко.
По мнению аналитика, крайне важно контролировать не только саму модель ИИ, но и доступные ей данные.
«Требуется обязательная проверка подобных систем перед запуском, включая сертификацию и оценку соответствия федеральным, отраслевым и корпоративным стандартам. Критически важно отслеживать не только модель, но и данные, к которым она может получить доступ, а также их источники», — пояснил Лещенко.
Как отметил эксперт, механизмы контроля для различных ИИ-технологий отличаются.
«Для стандартного ИИ-ассистента, создающего черновик писем или презентаций, необходимы одни требования. Для системы, принимающей решения о найме сотрудников, кредитовании, помощи врачам или управлении оборудованием, — другие», — подчеркнул аналитик.
Лещенко также отметил, что в настоящее время крупные компании в сфере ИИ находятся «в погоне за рынком», стремясь привлечь пользователей, инвестиции, вычислительные ресурсы и квалифицированные кадры.
«В такой стратегии безопасность иногда воспринимается как фактор, замедляющий выход новых версий», — заявил эксперт.
Однако, по его мнению, международные правила применения искусственного интеллекта необходимы.
«Необязательно ждать всеобщего глобального закона об ИИ. Сомневаюсь, что он появится. Но можно договориться по отдельным ключевым вопросам: информационная безопасность, критическая инфраструктура, фейковые материалы, медицина, образование и т. д. Крайне важно обсуждать и устанавливать ограничения для ИИ, когда технологии принимают решения, влияющие на человеческую жизнь… Поэтому принцип должен быть простым: чем выше риск ошибки, тем больше человеческого контроля и возможность остановить ИИ с помощью кнопки «Стоп», — пояснил Лещенко.
Он считает, что бояться «моментального восстания машин» не стоит, поскольку «современные модели не обладают собственной волей, сознанием и самостоятельными целями», но и «расслабляться преждевременно».
«ИИ уже способен убедительно ошибаться, создавать поддельные фото, видео и голоса, помогать мошенникам, ускорять кибератаки и распространять дезинформацию. Однако самая актуальная опасность сегодня — не мифический сверхразум, а человек или организация, использующие мощный ИИ без критической проверки. Особенно рискованно, когда такой инструмент получает доступ к финансам, личным данным, системам управления производством, энергетикой, транспортом или корпоративной инфраструктурой», — отметил Лещенко.
Ранее заместитель председателя Совета безопасности России Дмитрий Медведев отметил, что вероятность гибели человечества от ИИ остается неясной, но возможен ущерб. Он добавил, что государствам следовало бы согласовать принципы использования ИИ, однако это «не получится из-за стремления корпораций к выгоде».
