Выключить ИИ будет неэтично? Ученые обсуждают, что делать, если чат-боты станут разумными

Ученым срочно нужны надежные способы проверять, способен ли искусственный интеллект обладать сознанием, пишет Daily Mail со ссылкой на специалиста по вычислительной когнитивистике Университетского колледжа Лондона Меган Питерс. По ее словам, сегодня у науки нет общепринятого теста, который позволил бы определить наличие субъективного опыта у ИИ.

Проблема осложняется тем, что сознание до сих пор остается одной из главных загадок даже применительно к человеку. У людей можно напрямую спросить об их ощущениях, однако ответам чат-бота доверять таким же образом нельзя: система способна убедительно имитировать человеческую речь, не испытывая никаких чувств.

Питерс подчеркивает, что не считает современные модели сознательными. Однако если в будущем появится действительно чувствующий ИИ, его отключение, удаление или переобучение может породить серьезные этические вопросы.

Есть и обратный риск: ошибочно признать обычную языковую модель разумным существом и на этом основании менять законы, политику или отношение общества к ИИ.

Команда Питерс разрабатывает систему из десятков и потенциально сотен тестов. Их хотят сначала сравнить на людях и животных, а затем определить, какие методы вообще можно применять к искусственным системам.