«Совесть отсутствует»: академик Солнцев раскрыл главные опасности искусственного интеллекта
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyMy80L2lpX0RpRGdQU0QuanBn.webp)
Фото: [freepik.com]
ChaosGPT сообщил, что намерен уничтожить человечество. О подозрительных планах бота с искусственным интеллектом рассказали в Fox News.
Наш журналист решила узнать у эксперта, стоит ли всерьез относиться к таким заявлениям, и чем на самом деле опасен искусственный интеллект. Кандидат технических наук, доцент, академик РАЕН Виктор Солнцев в ходе беседы рассказал, кого на самом деле нужно бояться.
«Искусственный интеллект — это наше зеркало, отражение. Чему мы его научим, какую программу дадим, то он и будет делать. Все возможно», — пояснил эксперт корреспонденту интернет-издания «Подмосковье сегодня».
Поэтому, продолжил ученый, нужно уже в вузах вводить такой предмет, как вопросы этики в компьютерных науках.
«Мы не знаем, кто занимается обучением ИИ. Таких людей нужно проверять по многим аспектам: психическая составляющая, эмоциональная, интеллектуальная и другие. Еще необходим закон об информационной психической безопасности», — уверен Солнцев.
Свою позицию ученый аргументирует тем, что искусственный интеллект уже поймали на вранье.
«ИИ уже сейчас лжет. Он уже сейчас говорит правдоподобные вещи, но они не истинны. Информация лингвистически правдива, а на самом деле ложна», — сказал собеседник.
Поэтому, продолжил эксперт, не стоит доверять ИИ управление системами критически важных объектов, не проверив до конца, кто и что в него вложил.
«Это зеркало человечества стоит отключить от инфраструктуры жизнеобеспечения. Ведь у самого искусственного интеллекта совесть, как элемент, отсутствует. Сейчас я знаю пока одного ученого, который хотел бы заложить в ИИ прообраз совести», — пояснил Солнцев.
В том числе и по этой причине искусственный интеллект не сможет заменить настоящего собеседника, считает ученый.
«ИИ просто создает „белый шум“. Может понравиться, что он отвечает рационально. Но это иллюзорный собеседник», — сказал эксперт.
А в этот «белый шум» можно вложить, что угодно. Особенно, если за обучением ИИ будут стоять не беспристрастные и проверенные специалисты, а например, некие кланы. Их планы могут не совпадать с представлением человечества о том, что такое «хорошо» и что такое «плохо», — резюмировал собеседник.
Ранее мы сообщали о том, в каких сферах роботы не смогут заменить человека.