Международная группа экспертов в сфере искусственного интеллекта выступила с открытым письмом о необходимости защиты потенциально разумных ИИ-систем от страданий. Документ, опубликованный в Journal of Artificial Intelligence Research, подписали более 100 специалистов, включая британского актера Стивена Фрая.
Исследователи из Оксфордского университета и Афинского университета экономики разработали пять ключевых принципов ответственного подхода к разработке систем искусственного интеллекта. Главный акцент сделан на предотвращении возможных страданий ИИ-систем, способных к самосознанию.
«Мы стоим на пороге создания множества сознательных систем, которые могут испытывать страдания», — отмечают авторы исследования Патрик Батлин и Теодорос Лаппас. По их мнению, особую озабоченность вызывает способность продвинутых ИИ-систем к самовоспроизведению.
Эксперты подчеркивают необходимость выработки четких критериев определения сознания в системах ИИ. Отдельное внимание уделяется вопросу о статусе искусственного интеллекта как «морального пациента» — субъекта, имеющего самостоятельную этическую ценность.
Инициативу поддержали ведущие ученые, включая профессора Энтони Финкельштейна из Лондонского университета, а также специалисты крупных технологических компаний Amazon и WPP. Исследование проведено при поддержке организации Conscium, занимающейся изучением этических аспектов развития искусственного интеллекта.
Примечательно, что группа ученых ранее прогнозировала появление сознательных ИИ-систем уже к 2035 году. Эксперты призывают избегать преждевременных заявлений о достижении искусственного сознания и сосредоточиться на разработке безопасных методов развития технологии.
