Обращение Илона Маска, Стива Возняка и еще более тысячи исследователей искусственного интеллекта, которые призвали немедленно
приостановить обучение систем на основе ИИ, вызвало сильнейший резонанс в СМИ и среди общественности. Ситуацию подогрела шокирующая
новость, что чат-бот Элиза спровоцировал на самоубийство эколога в Бельгии.
Действительно ли ИИ может стать «убийцей человечества»?
В принципе, подобная ситуация возникает каждый раз, когда речь идет о появлении революционной технологии, которая способна приносить как
огромную пользу, так и огромный вред. Вопрос в том, сумеет ли человечество правильно и вовремя распорядиться этим достижением науки.
Сегодня ИИ уверенно шагает по планете, стремительно занимает все новые ниши, вытесняя человека. ИИ — незаменимый помощник в постановке
медицинских диагнозов, идентификации преступников, финансовой аналитике. Как выяснилось, не чужд он и творчеству — картины, написанные с
помощью ИИ, уже продаются на аукционах, а музыка, написанная нейросетями, получает своих поклонников, и практически неотличима от «живых»
выступлений. Энтузиасты утверждают, что совсем скоро ИИ возьмет на себя практически все функции экспертизы и выбора оптимальных вариантов
развития экономики, — а конечном счете, и общества. Во многих странах уже сейчас принимаются национальные программы, выделяются огромные
деньги в надежде, что нейросети помогут решать задачи развития государства, которые не под силу человеческому интеллекту.
И тем не менее Маск и его сторонники призывают приостановить разработки, утверждая, что человечество сегодня не готово использовать ИИ без вреда
самому себе. Авторы письма особо подчеркивают, что ИИ-лаборатории увязли в гонке по созданию все более мощных цифровых умов, которые никто,
даже сами разработчики, не может до конца понять, прогнозировать и надежно контролировать. Это может спровоцировать масштабные и неожиданные
изменения в жизни человечества, что несет угрозу самому его существованию.
Эксперты предупреждают: нынешняя ситуация с ИИ напоминает ту, которая сложилась после того, как ведущими учеными разных стран было создано
атомное оружие. А когда его возможности были продемонстрированы, ученые первыми стали думать, как остановить его применение. В итоге было
создано МАГАТЭ, которое контролирует многие вопросы в атомной сфере, между странами подписаны важнейшие документы, где они берут на себя
обязательства по неприменению такого оружия. Подобная работа с законодательной базой должна быть проведена и для сферы ИИ.
Как бы то ни было, многие риски использования ИИ все-таки вполне реалистичны. Опасность «слишком развитого ИИ» заключается в том, что он может
наводнить информационные каналы пропагандой и недостоверной информацией, отнять у людей работу и привести к созданию нечеловеческого разума,
который способен перехитрить человека и сделать его знания устаревшими и ненужными. Людям уже сегодня сложно отличить фейки, сгенерированные
искусственным интеллектом, от правды. Например, 70 процентов людей не могут отличить письмо, написанное Chat GPT, от письма, написанного человеком.
Другой серьезный вопрос — нарушение конфиденциальности и возможность утечки персональных данных, ведь согласно алгоритмам развития, технология
ИИ нарушает конфиденциальность, т. е. любые персональные данные, которые становятся известны нейросети, становятся материалом для изучения и
дальнейшего развития ИИ, с отсутствием правовой основы для использования этих сведений о пользователях. Таким образом, введение законодательных
ограничений необходимо, — и это касается любой новой разработки или технологии, результаты которой могут нести благо людям, — но при разумном и
корректном его использовании.