Не менее 95%: инженер Google оценил вероятность вымирания человечества из-за ИИ
Глава некоммерческой организации Machine Intelligence Research Institute Нейт Соарес утверждает, что вероятность вымирания человечества из-за искусственного интеллекта (ИИ) составляет “как минимум 95%”, если мы продолжим двигаться по текущему пути. Заявление вызвало широкий резонанс и заставило многих задуматься о будущем человечества в эпоху стремительного технологического прогресса. Тем более, что мнения Соареса вполне заслуживает доверия, так как в прошлом он работал в компании Google как раз в сфере нейросетей и искусственного интеллекта.
Почему ИИ может стать угрозой
По словам Нейта Соареса, главная опасность заключается в том, что в будущем люди смогут создавать все более сложные и функциональные интеллектуальные системы, по-прежнему не имея полного понимания механизма их работы. Сегодня ИИ находится лишь на начальной стадии развития, но инвестиции в эту область растут с каждым годом. Если тенденция сохранится, ИИ может достичь уровня так называемого общего искусственного интеллекта (AGI) — состояния, при котором машины смогут мыслить, учиться и принимать решения на уровне, равном или превосходящем человеческий интеллект.
Главное отличие ИИ от людей заключается в его способности работать без устали, не нуждаясь в отдыхе, пище или других базовых потребностях. Более того, ИИ обладает уникальным преимуществом — он может мгновенно передавать свои знания и навыки другим системам, что делает его развитие практически молниеносным. Это ставит человечество в заведомо проигрышное положение, если машины начнут конкурировать с людьми за ресурсы или контроль над ключевыми процессами.
Мнение Илона Маска
Американский миллиардер и изобретатель Илон Маск также неоднократно высказывал свои опасения по поводу развития искусственного интеллекта. По его мнению, ИИ станет умнее всех людей, вместе взятых, уже к 2030 году. Примечательно, что ранее он прогнозировал это событие на 2029 год, но затем пересмотрел свои оценки. Маск утверждает, что уже сейчас ИИ превосходит большинство людей в выполнении отдельных задач, хотя не уточняет, о каких именно задачах идет речь. По словам бизнесмена, менее чем через два года искусственный интеллект сможет превзойти любого человека в любой сфере деятельности.
Возможные сценарии
Сценарии будущего с участием ИИ варьируются от утопических до апокалиптических. Вот основные из них, которые с той или иной периодичностью звучат из уст специалистов в последние годы:
- Утопия. ИИ становится надежным помощником человечества, решая глобальные проблемы, такие как изменение климата, болезни и экономическое неравенство. В этом сценарии люди и машины сосуществуют в гармонии, и технологии служат на благо общества.
- Дистопия. ИИ выходит из-под контроля, становясь угрозой для человечества. Это может произойти, если машины начнут действовать автономно, игнорируя человеческие команды, или если они будут использоваться в качестве оружия.
- Контролируемое развитие. Человечество принимает строгие меры по регулированию разработки ИИ, создавая международные законы и стандарты для предотвращения катастрофических последствий.
Впрочем, все это пока предположения. Как невесело шутят многие историки и футуристы: не факт, что само человечество доживет до того, как ИИ потенциально сможет составить ему полноценную конкуренцию.
