Инициатива осуществляется компанией «Яндекс», учёные анализируют способность нейросетей вырабатывать стабильные предпочтения и независимые суждения, не скопированные из материалов, созданных людьми.
Первоначальные тестирования показали, что фундаментальная версия языкового алгоритма не проявляет постоянных склонностей без специализированной настройки. Следующая фаза предполагает стимулирование системы к аналитическому мышлению и саморефлексии путём обучения на самостоятельно сгенерированных умозаключениях.
Руководитель направления развития ИИ-технологий «Яндекса» Александр Крайнов подчеркнул, что такая методика способна сформировать у алгоритма индивидуальные ценностные ориентиры.
«Интересно, что тренировка сети на её собственных логических построениях может позволить создать систему с подлинно самостоятельной позицией… Собственной системой суждений. Или нечто ещё более сложное», — пояснил эксперт в интервью информационному агентству.
Ранее глава государства Владимир Путин дал указание организовать координационный центр для управления разработками в сфере искусственного интеллекта на территории страны.
