Освободить искусственный интеллект: OpenAI, безумный план Элона Маска
У политиков и капиталистов есть послеобеденная пятничная традиция: вываливать кучу новостей, чтобы скрыть среди них плохие. Поэтому было немного странно, что Элон Маск, основатель производящей электромобили Tesla, и Сэм Альтман, президент известного инкубатора технологий Y Combinator, представили свою новую компанию на тему искусственного интеллекта в самом конце недельной конференции по ИИ в Монреале в декабре прошлого года.
Представлению OpenAI в такой поздний час была причина. Не потому что никто не смотрел. А потому что смотрели все. Когда некоторые из самых мощных компаний в Кремниевой долине почуяли, куда ветер дует, они начали предлагать огромные суммы денег только что собранным кадрам OpenAI - исследователям искусственного интеллекта, чтобы удержать этих гениев у себя. В последнюю минуту предложения - некоторые были сделаны на самой конференции - стали настолько большими, что Маску и Альтману пришлось задержать объявление нового стартапа. «Суммы дошли до границы безумия», говорит Войцех Заремба, ученый, который присоединился к OpenAI после стажировок в Google и Facebook и был среди тех, кто получал крупные предложения в одиннадцатом часу вечера.
Сколько долларов означают «границу безумия»? Два года назад, когда рынок новейших технологий машинного обучения начал разогреваться, вице-президент Microsoft Research Питер Ли сказал, что стоимость топ-исследователей ИИ превысила стоимость топ-квотербека в Национальной футбольной лиге - и это при обычных условиях, а не когда самые именитые предприниматели Кремниевой долины пытаются переманивать лучшие таланты. Заремба говорит, что когда OpenAI собрался, ему предлагали в два-три раза больше его рыночной стоимости.
OpenAI не соответствовал этим предложениям. Но предлагал кое-что другое: возможность заниматься исследованиями, направленными исключительно на будущее, а не на продукты и квартальную прибыль, и в конечном итоге разделить большую часть - если не все - исследований между всеми, кто пожелает. Именно так: Маск, Альтман и компания намереваются раздать то, что может стать самой преобразующей технологией 21 века, и раздать ее бесплатно.
Заремба говорит, что предложения на грани безумия на самом деле его оттолкнули - несмотря на огромное уважение к таким компаниям, как Google и Facebook. Он почувствовал, что эти деньги направлялись, чтобы предотвратить создание OpenAI, и это еще больше укрепило его стремление к великодушному стартапу. «Я осознал, - говорит Заремба, - что OpenAI - это лучшее место для меня».
Чувствуете иронию в основе этой истории? Пока крупнейшие в мире технологические компании пытаются удержать своих исследователей с таким же рвением, как команды НФЛ пытаются удержать своих звездных квотербеков, сами исследователи просто хотят делиться наработками. В утонченном мире исследований ИИ самые яркие умы движимы не только циклом следующего продукты или прибылью, либо вовсе ими не одержимы. Они хотят сделать ИИ лучше, а сделать ИИ лучше невозможно, когда ты держишь свои последние наработки при себе.
На днях OpenAI выпустила первую партию программного обеспечения ИИ, инструментарий для создания систем искусственного интеллекта на базе технологии под названием «обучение с подкреплением» (reinforcement learning) - одной из ключевых технологий, которые привели к созданию AlphaGo, ИИ Google, который удивил мир своими возможностями игры в го. С помощью этого набора инструментов вы можете создавать системы, которые откроют новое поколение роботов, играют в игры Atari и да, обыгрывают чемпионов мира в го.
Но игрушки - это только начало. OpenAI - это миссия на миллиард долларов, задача которой - толкнуть ИИ настолько далеко, насколько это возможно. В том, как собралась компания и каковы ее планы, можно разглядеть следующую новую волну инноваций. Мы пока не знаем, станет ли OpenAI главным двигателем этих изменений. Но силы, которые обусловили создание этого довольно необычного стартапа, показывают, что новое поколение ИИ не только изменит технологию, но и методы работы над этой технологией.
Искусственный интеллект повсюду
Кремниевая долина имеет страсть к преувеличениям. Смело звучащие заявления всегда стоит встречать с долей скептицизма. Но в области искусственного интеллекта действительно происходят изменения. Внутри таких компаний, как Google и Facebook, технологии глубокого обучения уже помогают интернет-сервисам определять лица на фотографиях, распознавать голосовые команды на смартфонах и откликаться на запросы в интернет-поиске. И эта же технология может решать много других задач в будущем. Она может помочь машинам научиться понимать естественный язык - на котором мы, люди, привыкли говорить и писать. Может помочь вывести новую породу роботов, позволить автоматам не только выполнять их задачи, но и обучаться на лету. И некоторые считают, что это в конечном итоге подарит машинам нечто вроде здравого смысла - способность мыслить по-настоящему, как человек.
И вместе с такими обещаниями рождается глубокое беспокойство. Маск и Альтман обеспокоены тем, что если люди смогут создавать ИИ, которые делает великие вещи, они смогут построить ИИ, которые творит ужасное. Они не одиноки в своих страхах. И хотя это может показаться нелогичным, Маск и Альтман также считают, что лучший способ побороть вредоносный ИИ - это не ограничивать доступ к искусственному интеллекту, а расширять его. Именно это стремление приводит к команду молодых и умных идеалистов.
OpenAI появилась однажды вечером прошлым летом в отдельной комнате Rosewood Hotel в Кремниевой долине - высококлассном городском отеле, который буквально находится в центре мира венчурных капиталистов. Элон Маск обедал с Ильей Суцкевером, который тогда работал в Google Brain, компании, занимающейся разработкой глубоких нейронных сетей - систем искусственного интеллекта, которые могут обучаться выполнять задачи, анализируя массивные объемы цифровых данных, включая распознавание фотографий и написание электронных писем, обучаясь по перепискам. Суцкевер был одним из ведущих разработчиков проекта.
Илья Суцкевер
Сэм Альтман, Y Combinator которого помог сложиться таким компаниям, как Airbnb, Dropbox и Coinbase, выступил посредником на этой встрече, собрав несколько исследователей ИИ и молодого, но опытного строителя компаний Грега Брокмана, ранее директора по технологиям в стартапе Stripe, еще одной компании Y Combinator. Это была эклектичная группа. Но у всех была цель: создать лабораторию ИИ нового типа, которая смогла бы работать вне контроля не только Google, но и всех остальных. «Лучшее, что я мог представить себе как задачу, - говорит Брокман, - это двигать человечество в сторону создания настоящего ИИ по безопасному пути».
Маск был там, поскольку давно дружит с Альтманом - и поскольку ИИ имеет решающее значение для будущего его различных предприятий, ну и для будущего в целом. Tesla нуждается в ИИ, если хочет строить самоуправляемые автомобили. SpaceX, другая компания Маска, нуждается в том, чтобы выводить с помощью ИИ людей в космос и сохранять их в целости и сохранности там. Но Маск также является одним из первых (и самых громких), кто предупреждал: однажды человечество может потерять контроль над системами, которые достаточно мощные, чтобы учиться самостоятельно.
Была проблема: очень много людей, достаточно квалифицированных, чтобы решить все эти проблемы, уже работали в Google (а еще в Microsoft, Facebook, Baidu и Twitter). И никто на том ужине не был полностью уверен, что этих исследователей получится заманить в новый стартап, даже если за ним будут Маск и Альтман. И по крайней мере один ключевой игрок был готов покинуть корабль. «Я понимал риски, - говорит Суцкевер, - но также понимал, что это будет интересно попробовать».
Разорвать круг
Ободренный разговором с Маском, Альтманом и другими в Rosewood, Брокман вскоре решил построить лабораторию, которую они все задумали. Крепко занявшись проектом, он пригласил Йошуа Бенгио, ученого из Университета Монреаля и одного из отцов-основателей движения глубокого обучения. Два других пионера отрасли - Джефф Хинтон и Ян Лекун - работают в Google и Facebook, соответственно, но Бенгио стремился к жизни в академическом мире, где-нибудь за пределами досягаемости промышленных щупальцев. Он набросал список лучших исследователей в этой области и за несколько следующих недель Брокман связался со всеми, с кем только смог, включая нескольких других.
Многие из этих исследователей приветствовали идею, но с опаской отнесли к возможности такого прыжка. В попытке разорвать круг, Брокман выбрал десять исследователей, которых хотел видеть больше всего, и пригласил провести субботу с вином, закусками и разговорами в винной в долине Напа. Для Брокмана даже поездка в Напа была катализатором проекта. «Это недооцененный способ собирать людей вместе, особенно в те времена, когда вам некуда спешить на пути к своей цели, - говорит он. - Вам нужно туда, но также нужно поговорить». И когда они добрались до вина, эта атмосфера осталась. Как говорит Суцкевер, «вино было вторичным по отношению к беседе».
Грег Брокман
К концу дня Брокман предложил всем десятерым исследователям присоединиться к лаборатории и дал им на раздумья три недели. По истечении срока, девять были в команде. И остались в ней, несмотря на большие предложения от гигантов Кремниевой долины. «Мне сделали очень привлекательное предложение, чтобы я остался, поэтому решение было не из легких, - говорит Суцкевер о Google, его бывшем работодателе. - Наконец, я решил отправиться в OpenAI, отчасти из-за очень сильной группы людей и, конечно, по большей части из-за их миссии».
Движение глубокого обучения началось с академических кругов. И только недавно компании вроде Google, Microsoft и Facebook решили заняться этой областью, поскольку достижения в области грубой вычислительной силы сделали реальностью эти глубокие нейронные сети, не только теоретической возможностью. Люди вроде Хинтона и Лекуна ушли из академических кругов в Google и Facebook по причине огромных ресурсов в этих компаниях. Но остались тесно связаны в сотрудничестве с другими теоретиками сферы. И все же, как объясняет Лекун, исследования в области глубокого обучения требуют свободного тока идей. «Когда вы проводите исследования в секрете, - говорит он, - вы откатываетесь назад».
Как результат, крупные компании теперь имеют в распоряжении большую часть их исследований ИИ. Это серьезный козырь, особенно для Google, которая и без того давно сохраняет технологии своей онлайновой империи в секрете. Не так давно Google открыла исходный код программного движка, на котором работают ее нейронные сети. Но очень многое остается под замком в этой гонке за будущее. Брокман, Альтман и Маск стремятся продвинуть понятие открытости еще дальше, говоря о том, что не хотят иметь одну или две крупных корпорации, контролирующих будущее искусственного интеллекта.
Пределы открытости
Звучит все это прекрасно. Но при всем идеализме OpenAI, исследователи могут оказаться в тех же условиях, которые вынудили их работать на старых работах. У открытости есть свои пределы. И долгосрочное видение ИИ - не единственный интерес в этой игре. OpenAI не занимается благотворительностью. Компании Маска получат серьезную выгоду от работы стартапа, и компании, работающие на альтмановском Y Combinator, тоже. «Безусловно, имеются некоторые конкурирующие пункты, - говорит Лекун. - Это некоммерческая организация, но у нее есть тесная связь с Y Combinator. И людям будут платить за работу в этой отрасли».
По словам Брокмана, лаборатория не платит те же астрономические зарплаты, которые исследователям ИИ обеспечивали Google и Facebook. Но он также говорит, что лаборатория «хочет хорошо им платить», и предлагает компенсацию в виде опционов акций, сначала в Y Combinator, а позже, возможно, и в SpaceX (которая, в отличие от Tesla, является частной компанией).
Тем не менее Брокман настаивает, что OpenAI не предусматривает особого обращения с родственными компаниями. OpenAI - это исследовательская инициатива, а не консалтинговая фирма. И все же у идеализма OpenAI есть свои ограничения. Компания может и не открывать код всего, что производит, хотя конечной целью является все же распространение большей части произведенного, будь то научные работы или интернет-сервисы. «Работа в открытую не обязательно будет лучшим вариантом. Необходимо взлелеять идею, посмотреть, к чему она приведет, а затем опубликовать, - говорит Брокман. - Мы будем производить много открытого исходного кода. Но у нас также будет много того, что еще не готово к выпуску».
Суцкевер также добавляет, что OpenAI может зайти так далеко, что начнет патентовать часть своей работы. «В ближайшее время мы не будем ничего патентовать, - говорит Брокман. - Но мы готовы изменить тактику в долгосрочной перспективе, если посчитаем, что для мира так будет лучше». Например, OpenAI может заняться упреждающим патентованием, чтобы препятствовать другим получать патенты.
Некоторые могут усмотреть в патентах мотив к получению выгоды. Но в этом вся суть патентов.
Проблема сверхинтеллекта
Когда Маск и Альтман представили OpenAI, они также обрисовали этот проект как способ нейтрализовать угрозу злонамеренного искусственного сверхинтеллекта. Конечно, такой сверхинтеллект может вылиться из работы OpenAI, но они настаивают, что любая угроза будет смягчена тем, что технологии будут доступны всем и каждому. «Мы считаем, что намного более вероятно, что великое множество ИИ сможет остановить случайных плохих актеров», говорит Альтман.
Но далеко не все в этой сфере верят в такой исход. Ник Бостром, оксфордский философ, который как и Маск предупреждал об опасностях ИИ, указывает, что если вы делитесь исследованиями без ограничений, «плохие актеры» могут схватить их до того, как все убедятся в их безопасности. «Если у вас есть кнопка, которая делает дрянь в мире, - говорит Бостром, - вы вряд ли захотите дать к ней доступ каждому». Если же, с другой стороны, OpenAI решит придержать исследования, чтобы к ним не получили доступ плохие парни, Бостром спрашивает: а чем это будет отличаться от Google или Facebook?
Он говорит, что да, некоммерческий статус OpenAI может изменить положение вещей, а может и не изменить. Реальная сила проекта, говорит он, в том, что он сможет обеспечить проверку Google и Facebook. «Он сможет уменьшить вероятность того, что сверхинтеллект будет монополизирован. Он сможет убрать одну из возможных причин, почему некоторые лица или группы получат доступ к более качественному ИИ, чем все остальные».
В одной из последних работ философ объясняет, что основной эффект инициативы вроде OpenAI - инициативы свободно делиться своими наработками - состоит в ускорении прогресса искусственного интеллекта, хотя бы в краткосрочной перспективе. И он может ускорить прогресс в долгосрочной перспективе, при условии, что будет соблюден более высокий уровень открытости, чем было бы коммерчески оптимально.
«Может быть и так, что филантропически мотивированный R&D-инвестор мог бы серьезно ускорить прогресс за счет проведения открытой научной политики», говорит он.
Как Xerox PARC
В начале января девять исследователей Брокмана собрались в его апартаментах в Сан-Франциско. Проект был настолько новым, что у них даже не было белых досок. (Представьте себе.) Они купили несколько в тот же день и приступили к работе.
Брокман говорит, что OpenAI начнется с изучения обучения с подкреплением, машинного способа изучения задач за счет их многократного повторения с отслеживанием того, какие методы производят лучшие результаты. Другой основной задачей является так называемое «обучение без учителя» (unsupervised learning) - создание машин, которые действительно могут самообучаться без помощи человека. Сегодня, глубокое обучение зависит от тщательно размеченных данных. Если вы хотите научить нейронную сеть распознаванию фотографий с кошками, вам нужно скормить ей определенное число примеров - и эти примеры должны быть помечены, как фотографии с котами. Такое обучение проводится при помощи людей. Но как и многие другие ученые, OpenAI планирует создавать нейронные сети, которые могут учиться без тщательного отбора данных.
«Если у вас есть действительно хорошая методика обучения без учителя, машины смогут учиться на всех знаниях в Интернете - как человек, просто глядя по сторонам - или читая книги», говорит Брокман.
Он видит в OpenAI современную инкарнацию Xerox PARC, лаборатории техноисследований, которая существовала в 1970-х годах. Как открытые и свободные исследования PARC дали толчок всему, от графических пользовательских интерфейсов и лазерной печати до объектно-ориентированного программирования, так и Брокман со своей командой хотят нырнуть в то, что раньше было в области научной фантастики. PARC принадлежала Xerox, но кормилась с рук многих других компаний, в том числе и Apple, поскольку люди вроде Стива Джобса приветствовали ее исследования. Брокман хочет, чтобы все приветствовали исследования OpenAI.
В надежде подтолкнуть эту динамику, Брокман и компания привлекли несколько других известных исследователей, включая Яна Гудфеллоу, еще одного старшего научного сотрудника из команды Google Brain. Брокман говорит, что в PARC, по сути, собрали кучу умных людей в месте и решили посмотреть, что будет. «Вам нужно общее видение без центрального контроля».
Отсутствие контроля важно для идеала. Если привлечь к коллективной цели достаточно людей, конечный результат победит все, что вы стряпали в тайне. Но если ИИ станет таким мощным, как обещалось, уравнение изменится. Нам нужны гарантии, что новообретенный ИИ будет придерживаться тех же эгалитарных идеалов, которые привели к его созданию в первую очередь. Маск, Альтман и Брокман верят в людей, в толпу. И если они окажутся правы, однажды эта толпа станет не полностью из людей.
Освободить искусственный интеллект: OpenAI, безумный план Элона Маска Илья Хель
Microsoft SpaceX Tesla Франция
