Солнечный ветер's Journal

ИИ (искусственный интеллект) как ХХ (хроническая хрень): Странная хроника AI в New-York Times
Подозрения, что искусственный интеллект в варианте "искусственных нейронных сетей" и "больших языковых моделей" несколько переоценен (мягко говоря), или вообще является мыльным пузырем (грубо говоря) уже высказывались и в этом журнале, и в научпоп-изданиях*, не связанных клятвой коммерческой политкорректности с цифровым БигТех.
Однако, то что стало вываливаться в паблики сейчас (на фоне эскалации ИИ-скандалов) - уже не мыльный пузырь, а какая-то хроническая хрень. Итак...

...3 декабря 2023 г. группа странных персонажей из Сан-Франциско опубликовала большую статью с претензией на хронику: "Эго, страх и деньги: как с ИИ был сорван предохранитель. Люди, которые больше всего боялись рисков, связанных с искусственным интеллектом, решили, что именно они должны его создать. Затем недоверие подпитывало раскрутку конкуренции", сопроводив оную анонсом "Это первая статья из серии о современном искусственном интеллекте" и названием серии: "Раса ИИ"**

Ниже в машинно-любительском переводе цитирую этот феерический бред.

Илон Маск отпраздновал свой 44-й день рождения в июле 2015 года на трехдневной вечеринке, устроенной его женой на калифорнийском винном курорте, усеянном домиками. Там были только семья и друзья, а дети носились по престижному особняку в долине Напа.
Это было за несколько лет до того, как Twitter стал X, а у Tesla был прибыльный год. Г-ну Маску и его жене Талуле Райли — актрисе, сыгравшей красивого, но опасного робота в научно-фантастическом сериале HBO «Мир Дикого Запада», — оставался год до того, как они сдались во втором браке. Ларри Пейдж, гость на вечеринке, все еще был генеральным директором Google. А искусственный интеллект проник в общественное сознание всего несколько лет назад, когда его использовали для идентификации кошек на YouTube — с точностью 16 процентов.

ИИ была большой темой разговора, когда Маск и Пейдж сели возле костра возле бассейна после ужина в первый вечер. Два миллиардера дружили более десяти лет, и Маск иногда шутил, что иногда засыпал на диване у Пейджа после ночи, проведенной за видеоиграми.
Но тон той ясной ночи вскоре стал спорным, поскольку они обсуждали, сможет ли искусственный интеллект в конечном итоге возвысить человечество или уничтожить его.
По мере того как дискуссия затягивалась до холодных часов, она становилась все более напряженной, и некоторые из более чем 30 участников вечеринки собрались поближе, чтобы послушать. Г-н Пейдж, которому более десяти лет мешало необычное заболевание голосовых связок, шепотом описал свое видение цифровой утопии. По его словам, люди в конечном итоге сольются с машинами с искусственным интеллектом. Однажды за ресурсы будет бороться множество видов разведки, и победит лучший.
Если это произойдет, сказал г-н Маск, мы обречены. Машины уничтожат человечество.
С хрипом разочарования г-н Пейдж настоял на том, чтобы его утопия продолжалась. Наконец, он назвал Маска «специалистом», человеком, который предпочитает людей цифровым формам жизни будущего.
Это оскорбление, как позже сказал Маск, стало «последней каплей».
Многие в толпе, казалось, были ошеломлены, хотя и удивлены, когда они разошлись на ночь, и считали это просто еще одним из тех эзотерических дебатов, которые часто вспыхивают на вечеринках в Кремниевой долине.

Но восемь лет спустя спор между двумя мужчинами кажется пророческим. Вопрос о том, поднимет ли искусственный интеллект мир или разрушит его – или, по крайней мере, нанесет серьезный ущерб – стал причиной продолжающихся дебатов среди основателей Кремниевой долины, пользователей чат-ботов, ученых, законодателей и регулирующих органов о том, следует ли контролировать эту технологию или выпустить ее на свободу.
Эти дебаты настроили друг против друга некоторых самых богатых людей мира: г-на Маска, г-на Пейджа, Марка Цукерберга из Meta, технологического инвестора Питера Тиля, Сатью Наделлу из Microsoft и Сэма Альтмана из OpenAI. Все они боролись за долю в бизнесе, которая однажды может стоить триллионы долларов, и за возможность формировать его.

В основе этого соревнования лежит парадокс, требующий напряжения мозгов. Люди, которые говорят, что больше всего беспокоятся об ИИ. являются одними из тех, кто наиболее решительно настроен создать его и насладиться его богатствами. Они оправдывают свои амбиции своей твердой верой в то, что только они могут сохранить ИИ. от угрозы для Земли.
Маск и Пейдж прекратили общение вскоре после вечеринки тем летом. Несколько недель спустя Маск обедал с Альтманом, который тогда руководил технологическим инкубатором, и несколькими исследователями в отдельной комнате отеля Rosewood в Менло-Парке, Калифорния, излюбленном месте для заключения сделок, близком к предприятию. столичные офисы на Сэнд-Хилл-роуд.
Этот ужин привел к созданию позже в том же году стартапа под названием OpenAI. При поддержке сотен миллионов долларов Маска и других спонсоров лаборатория пообещала защитить мир от видения Пейджа.

Благодаря своему чат-боту ChatGPT OpenAI фундаментально изменила технологическую отрасль и познакомила мир с рисками и потенциалом искусственного интеллекта. OpenAI оценивается более чем в 80 миллиардов долларов, по словам двух человек, знакомых с последним раундом финансирования компании, хотя партнерство Маска и Альтмана не увенчалось успехом. С тех пор они перестали разговаривать.
«Существуют разногласия, недоверие, эго», – сказал г-н Альтман. «Чем ближе люди к тому, чтобы им указывали в одном направлении, тем более спорными становятся разногласия. Вы видите это в сектах и религиозных орденах. Идут ожесточенные ссоры между самыми близкими людьми».

В прошлом месяце эта борьба дошла до совета директоров OpenAI. Члены правления повстанцев пытались вытеснить г-на Альтмана, потому что, по их мнению, они больше не могли доверять ему в создании искусственного интеллекта. это принесло бы пользу человечеству. В течение пяти дней хаоса казалось, что OpenAI вот-вот развалится, пока правление — под давлением гигантских инвесторов и сотрудников, которые угрожали последовать за г-ном Альтманом за дверь — не отступило.
Драма внутри OpenAI дала миру первое представление о ожесточенной вражде между теми, кто будет определять будущее ИИ.
Но за несколько лет до краха OpenAI в Кремниевой долине шла малоизвестная, но жестокая конкуренция за контроль над технологиями, которые сейчас быстро меняют мир, от того, как учат детей до того, как ведутся войны. The New York Times поговорила с более чем 80 руководителями, учеными и предпринимателями, включая двух человек, присутствовавших на вечеринке по случаю дня рождения Маска в 2015 году, чтобы рассказать эту историю об амбициях, страхе и деньгах.

Рождение DeepMind
За пять лет до вечеринки в долине Напа и за два года до прорыва на YouTube Демис Хассабис, 34-летний нейробиолог, зашел на коктейльную вечеринку в таунхаусе Питера Тиля в Сан-Франциско и понял, что попал в точку. Там, в гостиной господина Тиля, с видом на городской Дворец изящных искусств и лебединый пруд, стояла шахматная доска. Доктор Хассабис когда-то был вторым лучшим игроком мира в категории до 14 лет.
«Я готовился к этой встрече целый год», — сказал доктор Хассабис. «Я думал, что это будет моей уникальной зацепкой: я знал, что он любит шахматы».

В 2010 году доктор Хассабис и двое его коллег, которые все жили в Великобритании, искали деньги, чтобы начать создание «искусственного общего интеллекта», или AGI, машины, которая могла бы делать все, что может делать мозг. В то время мало кто интересовался ИИ. После полувека исследований в области искусственного интеллекта не удалось создать что-либо, хотя бы отдаленно напоминающее человеческий мозг.
Тем не менее, некоторые ученые и мыслители зациклились на недостатках искусственного интеллекта. Многие из них, как трое молодых людей из Британии, были связаны с Элиэзером Юдковски, интернет-философом и самоучкой - AI-исследователем. Г-н Юдковский был лидером сообщества людей, называвших себя рационалистами, а в более поздние годы — эффективными альтруистами.
Они считали, что AI могли бы найти лекарство от рака или решить проблему изменения климата, но они беспокоились, что ИИ-боты могут делать то, чего не планировали их создатели. Если машины станут более разумными, чем люди, утверждали рационалисты, они смогут ополчиться против своих создателей.
Г-н Тиль стал чрезвычайно богатым благодаря ранним инвестициям в Facebook и благодаря работе с г-ном Маском на заре PayPal. У него появилось увлечение сингулярностью, образ научной фантастики, описывающий момент, когда разумные технологии больше не смогут контролироваться человечеством.

Благодаря финансовой поддержке г-на Тиля г-н Юдковски расширил свой ИИ. лаборатории и организовал ежегодную конференцию по сингулярности. За несколько лет до этого один из двух коллег доктора Хассабиса встретился с г-ном Юдковски, и он нашел для них места для выступлений на конференции, гарантируя, что они будут приглашены на вечеринку г-на Тиля.
Господин Юдковски представил доктора Хассабиса господину Тилю. Доктор Хассабис предположил, что многие на вечеринке будут пытаться выманить у хозяина деньги. Его стратегия заключалась в том, чтобы организовать еще одну встречу. Между епископом и рыцарем возникла глубокая напряженность, рассказал он г-ну Тилю. Эти две фигуры имели одинаковую ценность, но лучшие игроки понимали, что их сильные стороны сильно различаются [епископ и рыцарь - имеются в виду шахматные фигуры, в русскоязычном варианте - слон и конь соответственно].

Это сработало. Очарованный, г-н Тиль пригласил группу на следующий день, где они собрались на кухне. Их хозяин только что закончил утреннюю тренировку и все еще потел в блестящем спортивном костюме. Дворецкий протянул ему диетическую колу. Все трое сделали свое предложение, и вскоре г-н Тиль и его фирма венчурного капитала согласились вложить в их стартап 1,4 миллиона британских фунтов (примерно 2,25 миллиона долларов). Он был их первым крупным инвестором.
Они назвали свою компанию DeepMind, отсылая к «глубокому обучению», способу создания искусственного интеллекта. системы для обучения навыкам путем анализа больших объемов данных; нейробиологии; и суперкомпьютеру Дип Сот из научно-фантастического романа «Автостопом по галактике». К осени 2010 года они построили машину своей мечты. Они искренне верили, что, поскольку они понимают риски, у них есть уникальная возможность защитить мир.
«Я не считаю эту позицию противоречивой», — сказал Мустафа Сулейман, один из трех основателей DeepMind. «Эти технологии дают огромные преимущества. Цель не состоит в том, чтобы устранить их или приостановить их развитие. Цель состоит в том, чтобы смягчить недостатки».
Победив Тиля, доктор Хассабис пробился на орбиту Маска. Примерно два года спустя они встретились на конференции, организованной инвестиционным фондом Тиля, который также вложил деньги в компанию Маска SpaceX. Доктор Хассабис организовал экскурсию по штаб-квартире SpaceX. После этого, когда с потолка свисали корпуса ракет, двое мужчин пообедали в столовой и поговорили.
Г-н Маск объяснил, что его план состоял в том, чтобы колонизировать Марс, чтобы избежать перенаселения и других опасностей на Земле. Доктор Хассабис ответил, что план сработает — до тех пор, пока сверхразумные машины не последуют за ним и не уничтожат человечество и на Марсе.
Г-н Маск потерял дар речи. Он не думал об этой конкретной опасности. Вскоре Маск вместе с Тилем инвестировал в DeepMind, чтобы быть ближе к созданию этой технологии.

Имея достаточно денег, DeepMind наняла исследователей, специализирующихся на нейронных сетях — сложных алгоритмах, созданных по образу человеческого мозга. Нейронная сеть — это, по сути, гигантская математическая система, которая тратит дни, недели или даже месяцы на выявление закономерностей в больших объемах цифровых данных. Впервые разработанные в 1950-х годах, эти системы могли научиться решать задачи самостоятельно. Например, проанализировав имена и адреса, написанные на сотнях конвертов, они смогли прочитать рукописный текст.
DeepMind развил эту концепцию дальше. Она создала систему, которая могла научиться играть в классические игры Atari, такие как Space Invaders, Pong и Breakout, чтобы проиллюстрировать, что это возможно.
Это привлекло внимание другой влиятельной компании Кремниевой долины, Google, и в частности Ларри Пейджа. Он видел демонстрацию машины Deep Mind, играющей в игры Atari. Он хотел войти.

Аукцион талантов
Осенью 2012 года Джеффри Хинтон, 64-летний профессор Университета Торонто, и двое аспирантов опубликовали исследовательскую работу, которая показала миру, что такое искусственный интеллект. мог сделать. Они обучили нейронную сеть распознавать обычные объекты, такие как цветы, собаки и автомобили.
Ученые были удивлены точностью технологии, созданной доктором Хинтоном и его учениками. Особое внимание обратил на это Ю Кай, ИИ исследователь, который встретил доктора Хинтона на исследовательской конференции и недавно начал работать в Baidu, гигантской китайской интернет-компании. По словам трех человек, знакомых с предложением, Baidu предложила доктору Хинтону и его студентам 12 миллионов долларов за то, чтобы они присоединились к компании в Пекине. Доктор Хинтон отказал Baidu, но деньги привлекли его внимание.
Британский эмигрант, получивший образование в Кембридже, большую часть своей карьеры провел в академических кругах, за исключением редких периодов работы в Microsoft и Google, и деньги его особо не мотивировали. Но у него был нейроотличный ребенок, и деньги означали финансовую безопасность.
«Мы не знали, сколько мы стоим», — сказал доктор Хинтон. Он проконсультировался с юристами и экспертами по вопросам поглощений и придумал план: «Мы организуем аукцион и продадим себя». Аукцион состоится во время ежегодного аукциона A.I. конференция в отеле и казино Harrah’s на озере Тахо.

БигТех обратили на это внимание. Google, Microsoft, Baidu и другие компании начали верить, что нейронные сети — это путь к машинам, которые смогут не только видеть, но и слышать, писать, говорить и — в конечном итоге — думать.
Г-н Пейдж видел подобную технологию в Google Brain, ИИ его компании. лаборатории, и он думал, что исследования доктора Хинтона могут улучшить работу его ученых. Он дал Алану Юстасу, старшему вице-президенту Google по разработке, что-то вроде карт-бланша для найма любого ИИ. необходимые ему знания.
Мистер Юстас и Джефф Дин, возглавлявшие лабораторию мозга, прилетели на озеро Тахо и пригласили доктора Хинтона и его студентов на ужин в стейк-хаус на территории отеля накануне аукциона. Доктор Дин вспоминал, что запах старых сигарет был невыносимым. Они привели аргументы в пользу прихода на работу в Google.
На следующий день доктор Хинтон провел аукцион из своего гостиничного номера. Из-за старой травмы спины он редко садился. Он перевернул мусорное ведро на столе, положил сверху свой ноутбук и наблюдал, как в течение следующих двух дней поступали ставки.

Google сделал предложение. То же самое сделала и Microsoft. DeepMind быстро ушла из игры, когда цена выросла. Согласно документам, подробно описывающим аукцион, гиганты отрасли подняли ставки до 20 миллионов долларов, а затем до 25 миллионов долларов. Когда цена превысила 30 миллионов долларов, Microsoft ушла, но вернулась к торгам на цене 37 миллионов долларов.
«Мы чувствовали себя так, будто попали в фильм», — сказал доктор Хинтон.
Затем Microsoft выбыла во второй раз. Остались только Baidu и Google, и они увеличили цену до 42–43 миллионов долларов. Наконец, выиграв 44 миллиона долларов, доктор Хинтон и его ученики остановили аукцион. Ставки все еще росли, но они хотели работать на Google. И деньги были ошеломляющими.
Это был безошибочный признак того, что богатые компании полны решимости купить самых талантливых ИИ. исследователей, что не ускользнуло от внимания доктора Хассабиса из DeepMind. Он всегда говорил своим сотрудникам, что DeepMind останется независимой компанией. По его мнению, это был лучший способ гарантировать, что его технология не превратится во что-то опасное.
Но когда крупные технологические компании вступили в гонку талантов, он решил, что у него нет выбора: пришло время продавать.

По словам трех человек, знакомых с ситуацией, к концу 2012 года Google и Facebook планировали приобрести лондонскую лабораторию. Доктор Хассабис и его соучредители настаивали на двух условиях: никакая технология DeepMind не может использоваться в военных целях, а ее A.G.I. Технология должна контролироваться независимым советом технологов и специалистов по этике.
Google предложил 650 миллионов долларов. Марк Цукерберг из Facebook предложил основателям DeepMind более крупную выплату, но не согласился на условия. DeepMind продана Google.
Г-н Цукерберг был полон решимости создать систему искусственного интеллекта. лаборатория своя. Он нанял Янна Лекуна, французского ученого-компьютерщика, который также был пионером в области искусственного интеллекта. исследование, чтобы провести его. Через год после аукциона доктора Хинтона Цукерберг и доктор ЛеКун полетели на озеро Тахо за тем же ИИ. конференция. Прогуливаясь в носках по номеру казино Harrah’s, г-н Цукерберг лично брал интервью у ведущих исследователей, которым вскоре предложили миллионы долларов в виде зарплаты и акций.
ИИ однажды был осмеян. Теперь самые богатые люди Кремниевой долины тратили миллиарды, чтобы не остаться позади.

Потерянный Совет по этике
Когда г-н Маск инвестировал в DeepMind, он нарушил свое собственное неформальное правило — он не будет инвестировать ни в одну компанию, которой не управляет сам. Недостатки его решения стали очевидны уже тогда, когда всего через месяц или около того после ссоры с г-ном Пейджем в день рождения он снова оказался лицом к лицу со своим бывшим другом и коллегой-миллиардером.

Поводом стало первое заседание совета по этике DeepMind, состоявшееся 14 августа 2015 года. Совет был создан по настоянию основателей стартапа, чтобы гарантировать, что их технологии не причинят вреда после продажи. По словам трех человек, знакомых с ходом встречи, участники собрались в конференц-зале недалеко от офиса Маска в SpaceX, окно которого выходило на его ракетный завод.
Но на этом контроль Маска закончился. Когда Google купила DeepMind, она купила всё целиком. Маск отсутствовал. В финансовом отношении он вышел вперед, но был недоволен.
Там присутствовали три руководителя Google, которые теперь твердо контролируют DeepMind: г-н Пейдж; Сергей Брин, соучредитель Google и инвестор Tesla; и Эрик Шмидт, председатель Google. Среди других участников были Рид Хоффман, еще один основатель PayPal, и Тоби Орд, австралийский философ, изучающий «экзистенциальный риск».
Основатели DeepMind сообщили, что они продолжают свою работу, но осознают, что технология несет в себе серьезные риски.

Г-н Сулейман, соучредитель DeepMind, выступил с презентацией под названием «Вилы идут» [в оригинале The Pitchforkers Are Coming]. ИИ может привести к взрыву дезинформации, сказал он совету директоров. Он обеспокоен тем, что, поскольку в ближайшие годы технологии заменят бесчисленное количество рабочих мест, общественность будет обвинять Google в краже их средств к существованию. Google придется поделиться своим богатством с миллионами людей, которые больше не могут найти работу, и обеспечить им «универсальный базовый доход», утверждал он.
Маск согласился. Но было совершенно ясно, что его гости из Google не были готовы приступить к перераспределению (своего) богатства. Г-н Шмидт сказал, что, по его мнению, опасения совершенно преувеличены. Мистер Пейдж, как обычно, шепотом согласился. AI создаст больше рабочих мест, чем отнимет, утверждал он.

Восемь месяцев спустя DeepMind совершила прорыв, который ошеломил сообщество искусственного интеллекта и весь мир. Машина DeepMind под названием AlphaGo победила одного из лучших игроков мира в древней игре го. Игру, транслируемую через Интернет, посмотрели 200 миллионов человек по всему миру. Большинство исследователей предполагали, что AI потребовалось еще 10 лет, чтобы набраться изобретательности и сделать это.
Рационалисты, эффективные альтруисты и другие, которые беспокоились о рисках ИИ заявили, что победа компьютера подтвердила их опасения.
«Это еще одно свидетельство того, что AI продвигается быстрее, чем ожидали даже многие эксперты», — Виктория Краковна, которая вскоре присоединится к DeepMind в качестве «разработчика искусственного интеллекта». безопасности», — написал исследователь в своем блоге.
Основатели DeepMind все больше беспокоились о том, что Google сделает с их изобретениями. В 2017 году они попытались оторваться от компании. В ответ Google увеличила зарплаты и пакеты акций основателям DeepMind и их сотрудникам. Они остались на месте.
Совет по этике никогда не проводил второго заседания.

Расставание
Убежденный, что оптимистический взгляд г-на Пейджа на AI был совершенно неправ, и разгневанный потерей DeepMind, г-н Маск построил собственную лабораторию.
OpenAI была основана в конце 2015 года, всего через несколько месяцев после встречи с Сэмом Альтманом в отеле Rosewood в Кремниевой долине. Г-н Маск вложил деньги в лабораторию, и его бывшие приятели по PayPal, г-н Хоффман и г-н Тиль, присоединились к нам. Трое мужчин и другие пообещали вложить 1 миллиард долларов в проект, в реализации которого будет участвовать г-н Альтман, которому на тот момент было 30 лет. Для начала они переманили Илью Суцкевера из Google. (Доктор Суцкевер был одним из аспирантов, которых Google «купил» на аукционе доктора Хинтона.)

Первоначально Маск хотел управлять OpenAI как некоммерческой организацией, свободной от экономических стимулов, которые двигали Google и другие корпорации. Но к тому времени, когда Google поразил технологическое сообщество своим трюком с Go, г-н Маск изменил свое мнение о том, как им следует управлять. Он отчаянно хотел, чтобы OpenAI изобрела что-то, что захватило бы воображение всего мира и сократило разрыв с Google, но как некоммерческая организация не смогла выполнить свою работу.
В конце 2017 года он разработал план по тому, чтобы вырвать контроль над лабораторией у г-на Альтмана и других основателей и превратить ее в коммерческое предприятие, которое объединит усилия с Tesla и будет опираться на суперкомпьютеры, которые разрабатывала автомобильная компания, по словам четырех знакомых людей. с делом.
Когда г-н Альтман и другие выступили против, г-н Маск ушел и сказал, что сосредоточится на своем собственном ИИ. работа в Тесле. В феврале 2018 года он объявил о своем уходе в штат OpenAI на верхнем этаже офиса стартапа на переоборудованном заводе по производству грузовых автомобилей, рассказали три человека, присутствовавшие на встрече. Когда он сказал, что OpenAI необходимо двигаться быстрее, один исследователь на встрече возразил, что г-н Маск ведет себя безрассудно.
Г-н Маск назвал исследователя «придурком» и вышел вон, прихватив с собой глубокие карманы.

OpenAI внезапно понадобилось срочное новое финансирование. Г-н Альтман прилетел в Сан-Вэлли на конференцию и встретился с Сатьей Наделлой, исполнительным директором Microsoft. Ничья казалась естественной. Г-н Альтман был знаком с техническим директором Microsoft Кевином Скоттом. Microsoft купила LinkedIn у г-на Хоффмана, члена совета директоров OpenAI. Г-н Наделла поручил г-ну Скотту сделать это. Сделка закрыта в 2019 году.
Г-н Альтман и OpenAI создали коммерческую компанию в рамках первоначальной некоммерческой организации, у них был свежий капитал в размере 1 миллиарда долларов, а у Microsoft появился новый способ внедрить искусственный интеллект в свой обширный сервис облачных вычислений.

Не все внутри OpenAI были довольны.
Дарио Амодей, исследователь, связанный с сообществом эффективных альтруистов, присутствовал в отеле Роузвуд, когда родился OpenAI. Доктор Амодей, который во время разговора бесконечно крутил локоны между пальцами, возглавлял усилия лаборатории по созданию нейронной сети, называемой большой языковой моделью, которая могла бы обучаться на огромных объемах цифрового текста. Анализируя бесчисленные статьи Википедии, цифровые книги и доски объявлений, он может генерировать текст самостоятельно. У него также была неудачная привычка все выдумывать. Он назывался GPT-3 и был выпущен летом 2020 года.
Исследователи из OpenAI, Google и других компаний считали, что эта быстро совершенствующаяся технология может стать путем к A.G.I.
Но д-р Амодей был недоволен сделкой с Microsoft, поскольку считал, что она ведет OpenAI в действительно коммерческом направлении. По словам пяти человек, знакомых с этим вопросом, он и другие исследователи обратились к совету директоров, чтобы попытаться вытеснить г-на Альтмана. После того, как они потерпели неудачу, они ушли. Как и основатели DeepMind до них, они беспокоились, что их новые корпоративные повелители будут отдавать предпочтение коммерческим интересам над безопасностью.

В 2021 году группа из примерно 15 инженеров и ученых создала новую лабораторию под названием Anthropic. План состоял в том, чтобы построить ИИ. так, как считали эффективные альтруисты, — с очень жестким контролем.
«Соучредители Anthropic не предпринимали никаких попыток исключить Сэма Альтмана из OpenAI», — заявила пресс-секретарь Anthropic Салли Олдос. «Сами сооснователи пришли к выводу, что хотят покинуть OpenAI, чтобы основать собственную компанию, сообщили об этом руководству OpenAI и в течение нескольких недель вели переговоры о выходе на взаимоприемлемых условиях».
Два года спустя Anthropic приняла инвестиции в размере 4 миллиардов долларов от Amazon и еще 2 миллиарда долларов от Google.

Раскрытие
После того как OpenAI получила еще 2 миллиарда долларов от Microsoft, г-н Альтман и еще один топ-менеджер Грег Брокман посетили Билла Гейтса в его обширном особняке на берегу озера Вашингтон, недалеко от Сиэтла. Основатель Microsoft больше не участвовал в повседневной работе компании, но поддерживал регулярные контакты с ее руководителями.
За ужином г-н Гейтс сказал им, что сомневается в работоспособности больших языковых моделей. По его словам, он будет сохранять скептицизм до тех пор, пока технология не выполнит задачу, требующую критического мышления — например, прохождение теста по биологии AP.
Пять месяцев спустя, 24 августа 2022 года, Альтман и Брокман вернулись и привели с собой исследователя OpenAI по имени Челси Восс. В старшей школе г-жа Восс была медалисткой международной олимпиады по биологии. Наделла и другие руководители Microsoft тоже присутствовали.
На огромном цифровом дисплее на стенде возле гостиной г-на Гейтса команда OpenAI представила технологию под названием GPT-4.
Г-н Брокман дал системе расширенный тест по биологии с несколькими вариантами ответов, а г-жа Восс оценила ответы. Первый вопрос касался полярных молекул, групп атомов с положительным зарядом на одном конце и отрицательным зарядом на другом. Система ответила правильно и объяснила свой выбор. «Он был обучен только давать ответ», — сказал г-н Брокман. «Разговорный характер как-то исчез, почти волшебным образом». Другими словами, он делал то, для чего на самом деле он не был предназначен.

Было 60 вопросов. GPT-4 дал только один неправильный ответ.
Мистер Гейтс сел в кресле, широко раскрыв глаза. В 1980 году у него была похожая реакция, когда исследователи показали ему графический интерфейс пользователя, который стал основой современного персонального компьютера. Он думал, что GPT была такой революционной.
К октябрю Microsoft добавила эту технологию в свои онлайн-сервисы, включая поисковую систему Bing. А два месяца спустя OpenAI выпустила своего чат-бота ChatGPT, которым теперь каждую неделю пользуются 100 миллионов человек.
OpenAI победила эффективных альтруистов из Anthropic. Оптимисты г-на Пейджа в Google поспешили выпустить собственного чат-бота Bard, но многие считали, что они проиграли гонку OpenAI. Через три месяца после выпуска ChatGPT акции Google упали на 11 процентов. Маска нигде не было.
Но это было только начало.
(конец перевода)

...Такие дела...
---------------------------------------
*) Ранее по теме ИИ в этом журнале...
2023-10-29 Гора инвестиций в "искусственный интеллект" родила мышь. И разработчики пытаются скрыть это.
https://alex-rozoff.livejournal.com/723218.html
2023-11-18 Мыльный пузырь "Искусственного Интеллекта": от него кровопролитиев ждали, а он клерка съел
https://alex-rozoff.livejournal.com/728731.html
2023-11-29 Глобальная шизократия и сектофилия: версии Medium и Forbes вокруг шоу Сэма Альтмана и OpenAI
https://alex-rozoff.livejournal.com/731744.html
...И в Хайтек+
7 декабря 2023 Ян Лекун, главный специалист по искусственному интеллекту в Meta (компания признана экстремистской и запрещена в РФ), предупредил Марка Цукерберга, что ChatGPT может создать проблемы для компании и что нужно действовать быстро, пока не стало слишком поздно. Это заставило организацию выпустить своего чат-бота раньше и спровоцировало проблемы с безопасностью.
https://hightech.plus/2023/12/07/yan-lekun-feisbuk-i-instagram-mogut-ischeznut-esli-ne-dogonyat-chatgpt
8 декабря 2023, Видео, выпущенное к презентации ИИ от Google, где человек взаимодействует с Gemini, оказалось подделкой. Компания признала, что сократила и ускорила ответы, а чат-бот вместо видео реагировал на статичные картинки. Пользователи, которые успели протестировать новинку, подтверждают проблемность Gemini и недовольны ее способностями — она неправильно отвечает на вопросы и не умеет анализировать информацию.
https://hightech.plus/2023/12/08/vpechatlyayushee-video-s-prezentacii-gemini-okazalos-poddelkoi
**) Ego, Fear and Money: How the A.I. Fuse Was Lit
The people who were most afraid of the risks of artificial intelligence decided they should be the ones to build it. Then distrust fueled a spiraling competition.
Cade MetzKaren WeiseNico GrantMike Isaac
By Cade Metz, Karen Weise, Nico Grant and Mike Isaac
Reporting from San Francisco
Dec. 3, 2023
THE A.I. RACE
This is the first article in a series about modern artificial intelligence.
https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html
ФОТО: Руконожка мадагаскарская, она же - aye-aye. Ни в чем не виновата. Выбрана исключительно по созвучию с AI