Показать скрытый текстСэм Альтман
Нежная сингулярность
Мы прошли горизонт событий; взлет начался. Человечество близко к созданию цифрового суперинтеллекта, и, по крайней мере, пока это гораздо менее странно, чем должно быть.
Роботы пока не ходят по улицам, и большинство из нас не общаются с ИИ весь день. Люди все еще умирают от болезней, мы все еще не можем легко отправиться в космос, и во вселенной есть много того, чего мы не понимаем.
И все же, мы недавно построили системы, которые во многих отношениях умнее людей и способны значительно усиливать результаты людей, использующих их. Наименее вероятная часть работы уже позади; научные идеи, которые привели нас к таким системам, как GPT-4 и o3, были получены с трудом, но они приведут нас очень далеко.
ИИ будет вносить свой вклад в мир многими способами, но преимущества в качестве жизни от ИИ, ускоряющего научный прогресс и увеличивающего производительность, будут колоссальными; будущее может быть намного лучше настоящего. Научный прогресс является самым большим двигателем общего прогресса; чрезвычайно волнительно думать о том, насколько больше мы могли бы иметь.
В каком-то большом смысле ChatGPT уже более мощный, чем любой человек, который когда-либо жил. Сотни миллионов людей полагаются на него каждый день и для все более важных задач; небольшая новая возможность может создать огромное положительное влияние; небольшое несоответствие, умноженное на сотни миллионов людей, может вызвать огромное отрицательное влияние.
В 2025 году появились агенты, способные выполнять настоящую когнитивную работу; написание компьютерного кода уже никогда не будет прежним. В 2026 году, скорее всего, появятся системы, способные находить новые идеи. В 2027 году могут появиться роботы, способные выполнять задачи в реальном мире.
Гораздо больше людей смогут создавать программное обеспечение и искусство. Но мир хочет гораздо больше и того, и другого, и эксперты, вероятно, все равно будут намного лучше новичков, если только они воспользуются новыми инструментами. В общем, способность одного человека сделать гораздо больше в 2030 году, чем он мог бы сделать в 2020 году, станет поразительным изменением, и многие люди поймут, как извлечь из этого пользу.
В самых важных отношениях 2030-е годы, возможно, не будут кардинально отличаться. Люди по-прежнему будут любить свои семьи, выражать свою креативность, играть в игры и плавать в озерах.
Но в очень важных аспектах 2030-е годы, скорее всего, будут сильно отличаться от любого времени, которое было до этого. Мы не знаем, насколько далеко за пределы человеческого уровня интеллекта мы можем зайти, но мы собираемся это выяснить.
В 2030-х годах интеллект и энергия — идеи и способность воплощать идеи — станут дико изобильными. Эти два фактора долгое время были фундаментальными ограничителями человеческого прогресса; при изобилии интеллекта и энергии (и хорошем управлении) мы теоретически можем иметь что угодно еще.
Мы уже живем с невероятным цифровым интеллектом, и после некоторого первоначального шока большинство из нас довольно привыкли к нему. Очень быстро мы переходим от удивления, что ИИ может сгенерировать прекрасно написанный абзац, к удивлению, когда он может сгенерировать прекрасно написанный роман; или от удивления, что он может ставить спасающие жизни медицинские диагнозы, к удивлению, когда он может разработать лекарства; или от удивления, что он может создать небольшую компьютерную программу, к удивлению, когда он может создать целую новую компанию. Вот как проходит сингулярность: чудеса становятся рутиной, а затем ставками на стол.
Мы уже слышим от ученых, что они в два или три раза продуктивнее, чем были до ИИ. Продвинутый ИИ интересен по многим причинам, но, возможно, ничто не столь значимо, как тот факт, что мы можем использовать его для более быстрых исследований ИИ. Мы можем открыть новые вычислительные субстраты, лучшие алгоритмы и бог знает что еще. Если мы сможем провести десятилетние исследования за год или месяц, то темпы прогресса, очевидно, будут совершенно другими.
С этого момента инструменты, которые мы уже построили, помогут нам найти дальнейшие научные идеи и помогут нам в создании лучших систем ИИ. Конечно, это не то же самое, что система ИИ, полностью автономно обновляющая свой собственный код, но тем не менее это личиночная версия рекурсивного самосовершенствования.
В игре есть и другие самоусиливающиеся циклы. Создание экономической стоимости запустило маховик комплексного строительства инфраструктуры для работы этих все более мощных систем ИИ. И роботы, которые могут строить других роботов (и в некотором смысле центры обработки данных, которые могут строить другие центры обработки данных), не так уж далеки.
Если нам придется создать первый миллион человекоподобных роботов старомодным способом, но затем они смогут управлять всей цепочкой поставок — добывать и перерабатывать полезные ископаемые, водить грузовики, управлять заводами и т. д. — чтобы построить больше роботов, которые смогут построить больше предприятий по производству микросхем, центров обработки данных и т. д., то темпы прогресса, очевидно, будут совершенно другими.
По мере автоматизации производства в центрах обработки данных стоимость интеллекта в конечном итоге должна приблизиться к стоимости электроэнергии. (Люди часто интересуются, сколько энергии потребляет запрос ChatGPT; средний запрос потребляет около 0,34 ватт-часов, что примерно равно количеству, которое духовка потребляет за секунду с небольшим, а высокоэффективная лампочка — за пару минут. Она также потребляет около 0,000085 галлона воды; примерно одна пятнадцатая чайной ложки.)
Скорость технического прогресса будет продолжать ускоряться, и люди будут по-прежнему способны адаптироваться практически ко всему. Будут очень сложные моменты, например, исчезновение целых классов рабочих мест, но с другой стороны, мир будет становиться настолько богаче и так быстро, что мы сможем серьезно рассматривать новые политические идеи, которые мы никогда не могли себе позволить раньше. Мы, вероятно, не примем новый общественный договор сразу, но если мы оглянемся назад через несколько десятилетий, то постепенные изменения будут означать нечто большое.
Если история чему-то учит, мы найдем новые вещи, которые нужно делать, и новые вещи, которые нужно хотеть, и быстро освоим новые инструменты (хорошим недавним примером является смена работы после промышленной революции). Ожидания будут расти, но возможности будут расти так же быстро, и мы все получим лучшие вещи. Мы будем создавать все более замечательные вещи друг для друга. У людей есть долгосрочное важное и любопытное преимущество перед ИИ: мы запрограммированы заботиться о других людях, о том, что они думают и делают, и нас не очень волнуют машины.
Фермер, живущий на ферме тысячу лет назад, посмотрел бы на то, что делают многие из нас, и сказал бы, что у нас фальшивые работы, и подумал бы, что мы просто играем в игры, чтобы развлечь себя, поскольку у нас много еды и невообразимых предметов роскоши. Я надеюсь, что мы посмотрим на эти работы через тысячу лет и подумаем, что это очень фальшивые работы, и я не сомневаюсь, что они будут казаться невероятно важными и удовлетворяющими людей, которые их выполняют.
Скорость достижения новых чудес будет колоссальна. Сегодня даже трудно представить, что мы откроем к 2035 году; может быть, мы перейдем от решения физики высоких энергий в одном году к началу колонизации космоса в следующем году; или от крупного прорыва в материаловедении в одном году к настоящим высокоскоростным интерфейсам мозг-компьютер в следующем году. Многие люди выберут прожить свою жизнь примерно так же, но, по крайней мере, некоторые люди, вероятно, решат «подключиться».
Заглядывая вперед, это кажется сложным для понимания. Но, вероятно, пережить это будет впечатляюще, но управляемо. С релятивистской точки зрения сингулярность происходит постепенно, а слияние происходит медленно. Мы поднимаемся по длинной дуге экспоненциального технологического прогресса; она всегда выглядит вертикальной, если смотреть вперед, и плоской, если идти назад, но это одна плавная кривая. (Вспомните 2020 год и то, как бы звучало, если бы к 2025 году было что-то близкое к ОИИ, по сравнению с тем, как на самом деле выглядели последние 5 лет.)
Наряду с огромными преимуществами есть серьезные проблемы, с которыми нужно столкнуться. Нам действительно нужно решить проблемы безопасности, как в техническом, так и в социальном плане, но затем критически важно широко распространить доступ к сверхразуму, учитывая экономические последствия. Лучший путь вперед может быть таким:
Решить проблему согласованности, то есть мы можем надежно гарантировать, что заставим системы ИИ учиться и действовать в соответствии с тем, чего мы все вместе хотим в долгосрочной перспективе (ленты социальных сетей являются примером несогласованного ИИ; алгоритмы, которые их поддерживают, невероятно эффективны в том, чтобы заставить вас продолжать прокручивать и четко понимать ваши краткосрочные предпочтения, но они делают это, эксплуатируя что-то в вашем мозгу, что переопределяет ваши долгосрочные предпочтения).
Затем сосредоточьтесь на том, чтобы сделать сверхразум дешевым, широкодоступным и не слишком сконцентрированным на каком-либо человеке, компании или стране. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, хотя мы и сделаем много ошибок, и что-то пойдет совсем не так, мы быстро научимся и адаптируемся и сможем использовать эту технологию, чтобы получить максимальный плюс и минимальный минус. Предоставление пользователям большой свободы в широких рамках, которые общество должно решить, кажется очень важным. Чем раньше мир сможет начать разговор о том, что такое эти широкие границы и как мы определяем коллективное выравнивание, тем лучше.
Мы (вся индустрия, а не только OpenAI) создаем мозг для мира. Он будет чрезвычайно персонализированным и простым в использовании для всех; мы будем ограничены хорошими идеями. Долгое время технические специалисты в стартап-индустрии высмеивали «идейных парней»; людей, у которых была идея, и они искали команду для ее реализации. Теперь мне кажется, что они вот-вот получат свой день на солнце.
OpenAI — это много чего сейчас, но прежде всего мы — компания по исследованию сверхразума. Перед нами много работы, но большая часть пути перед нами теперь освещена, а темные области быстро отступают. Мы чувствуем себя чрезвычайно благодарными за то, что можем делать то, что делаем.
Слишком дешевый для измерения интеллект вполне доступен. Это может показаться безумным, но если бы мы сказали вам в 2020 году, что мы будем там, где мы есть сегодня, это, вероятно, прозвучало бы более безумно, чем наши нынешние прогнозы о 2030 году.
Пусть мы будем масштабироваться плавно, экспоненциально и без происшествий с помощью сверхразума.
Скрыть текст