Илон Маск оценил вероятность жизни в симуляции в 50% и назвал Сэма Альтмана обманщиком
iXBT.com ·
Илон Маск заявил, что вероятность того, что человечество живёт внутри компьютерной симуляции, может составлять 50%. Об этом он рассказал в разговоре с биографом Уолтером Айзексоном в подкасте The Builders. По словам предпринимателя, однажды за ужином физик оценил вероятность симуляции в 0%, а специалист по информатике — в 100%. Маск предложил взять среднее значение. Он также высказал предположение, что симуляция, если она существует, должна быть достаточно интересной, чтобы её не остановили: «Если теория симуляции верна, то все скучные симуляции будут прекращены. Поэтому сам факт нашего существования означает, что мы живём в интересной симуляции. И самое важное — просто не быть скучным».
В разговоре Маск затронул и безопасность сильнейших моделей искусственного интеллекта. Он предложил крупнейшим американским ИИ-компаниям проводить еженедельные встречи и предоставлять конкурентам доступ к новым моделям примерно за неделю до публичного выпуска. По его замыслу, другие разработчики могли бы проверять систему на опасные возможности и сообщать о проблемах до того, как модель станет общедоступной. В качестве примера Маск привёл ситуацию, при которой тестировщик обнаруживает, что ИИ позволяет получить инструкции по созданию ядерного оружия: в таком случае разработчику следует устранить уязвимость до выпуска модели.
При этом сам Маск выразил сомнение в возможности наладить такое сотрудничество с OpenAI. Когда Айзексон спросил, готов ли предприниматель обсудить эту идею с главой компании Сэмом Альтманом, Маск ответил: «Он настолько склонен к обману, что это просто безумие». В отношении Anthropic предприниматель высказался значительно благожелательнее. По его словам, он встречал в компании приятных и добросовестных людей, хотя и признал, что его способность распознавать недобросовестность не безошибочна.
Маск также оценил возможный экономический эффект от появления цифрового сверхинтеллекта — ИИ, превосходящего человека по широкому кругу интеллектуальных задач. По его мнению, такая технология способна увеличить объём производимых товаров и услуг на 20–30%, что, согласно приведённой им оценке, может соответствовать дополнительным $30 трлн в год. Однако в разговоре не приводились расчёты, подтверждающие эту оценку.