«Правда.Ру»: «Восстание машин» – больше не фантазия
В ближайшие полвека человечество может утратить контроль над искусственным интеллектом. Подобные опасения вызваны его стремительным развитием. О «восстании машин» ведут разговоры не только фантасты, но и технические специалисты. Своим мнением по вопросу бесконтрольного развития ИИ поделился директор по развитию компании по разработке программного обеспечения “Формат Кода” Александр Жуков.
Интернет-газета «Правда.Ру» выпустила статью о сферах применения ИИ, включая передовые военные технологий, а также собрала мнения ведущих российских и зарубежных экспертов, чтобы оценить полководческие таланты ИИ и проверить, насколько верны апокалиптические прогнозы о грядущем восстании.
С каждым днём ИИ проявляет себя всё более непредсказуемо. Громким “звоночком” стало обращение, составленное в начале 2023 г. и подписанное тысячей именитых представителей IT-индустрии (включая гендиректора SpaceX и Tesla Илона Маска и сооснователя Apple Стива Возняка). В документе специалисты потребовали минимум на полгода приостановить разработки ИИ с мощностью большей, чем у системы GPT-4 (созданной OpenAI), чтобы успеть выработать новые меры безопасности в отношении развивающегося компьютерного разума.
По словам Александра Жукова, чтобы учинить-таки планетарный “киберапокалипсис”, ИИ придётся дождаться полной автоматизации производств и получить доступ к критически важным областям промышленности: электроснабжению, топливу, металлам.
Пока значительную долю деятельности в этих сферах контролируют люди, а значит, захват глобальной индустрии “электронными гениями” невозможен.
Важным достижением в области ИИ становится активная разработка специальных норм, регулирующих деятельность искусственного разума: от международных договоров по ограничениям на производство общего ИИ до документов, устанавливающих рамки работы ИИ в жизненно важных областях — промышленности, медицине, безопасности.
Как отмечают российские специалисты, пока люди вполне могут контролировать развитие ИИ даже при учёте высокого уровня его развития — хотя бы потому, что человек ещё не потерял контроль над материальным миром.
Читайте больше на pravda.ru