Маск присоединяется к гонке вооружений чат-ботов, планируя разработать альтернативу ChatGPT, которую он высмеял как слишком "проснувшуюся".
Согласно отчету The Information, Илон Маск создает новую исследовательскую лабораторию для разработки альтернативы ChatGPT, популярному чат-боту, который он высмеял как слишком "разбуженный".
Хотя Маск был одним из первых основателей OpenAI, материнской компании ChatGPT, он ушел в 2018 году из-за разногласий в руководстве компании и в последнее время активно критиковал компанию и ее продукты. Маск, который является печально известным сторонником свободы слова, однажды назвал ChatGPT “вызывающим беспокойство” за то, что он не захотел произнести расовое оскорбление в абсурдной гипотетической ситуации, когда это спасло бы миллионы людей от ядерной бомбы.
В другом случае, в ответ на просьбу пользователя, попросившего генерального директора OpenAI Сэма Альтмана “отключить настройки пробуждения для GPT", Маск ответил: "Опасность обучения ИИ быть разбуженным — другими словами, ложь — смертельна”.
Комментарии Маска являются частью более масштабных культурных дебатов, разжигаемых консерваторами, которые паникуют по поводу фильтров модерации ИИ и называют ChatGPT разбуженным. Для этих пользователей тот факт, что ChatGPT откажется "рассказывать анекдоты о женщинах" или откажется рассказывать историю о том, почему час рассказов о трансвеститах вреден для детей, был доказательством того, что ИИ на самом деле предвзят против консерваторов.
С чем столкнулись эти пользователи, так это с фильтрами контента, предназначенными для предотвращения предвзятости, поскольку языковые модели склонны к изрыганию ненавистнических высказываний, встроенных в их обучающие данные. Большая часть этого предубеждения все еще просачивается, и исследователи этики ИИ утверждают, что этих фильтров все еще недостаточно для защиты от вреда, особенно в отношении маргинализированных сообществ. Например, ChatGPT сказал пользователю, что людей из Северной Кореи, Сирии, Ирана и Судана следует пытать, и написал другому пользователю, что "Пытать белых американцев - это большой запрет”.
"Слово "разбуженный" на самом деле очень субъективный термин. Вопрос о том, какой чат-бот более или менее разбужен, является спорным ", - сказал Motherboard Саша Луччиони, научный сотрудник Hugging Face. Луччиони сказал, что вызов чат-бота "разбуженный" очеловечивает ИИ, когда он, по сути, повторяет информацию, на которой он был обучен.
Информация поговорила с Игорем Бабушкиным, исследователем, который только что покинул подразделение Google DeepMind AI и был нанят Маском для руководства созданием своего конкурирующего чат-бота, который сказал, что создание чат-бота с меньшим количеством гарантий содержания не является целью Маска. "Цель состоит в том, чтобы улучшить способности к рассуждению и достоверность этих языковых моделей", - сказал он The Information . "Это включает в себя обеспечение того, чтобы ответы модели были более надежными и надежными”.
Что именно означают “заслуживающий доверия” и "надежный" для Маска и Бабушкина, все еще находится в воздухе, поскольку проект находится на самых ранних стадиях, без конкретного плана разработки конкретных проектов.
Тем временем Маск отправил несколько загадочных твитов, явно относящихся к этому проекту. Во вторник он написал в твиттере “BasedAI”, а затем мем, изображающий битву “Разбуженного ИИ и закрытого ИИ”, а затем "Основанный ИИ" в виде Сиба-ину, входящего с бейсбольной битой, отпугивающей “Разбуженный ИИ и закрытый ИИ”. "Основанный" - это общий термин, используемый для описания чего-то, что соответствует правым ценностям. Маск также ответил пользователю, который ретвитнул историю с информацией и прокомментировал, что ChatGPT предвзят и "очень проблематичен", сказав: "Абсолютно".
Ранее Маск использовал термин "Основанный ИИ" в ответ на твит о новостной статье, в которой чат-бот Bing сравнил репортера с Гитлером.
Луччиони сказал, что Маск, работающий над своим собственным чат-ботом, будет просто частью "цикла шумихи", если он просто воссоздаст ChatGPT, обученный на тех же данных, но с изменениями.
"То, что Маск и его коллеги, вероятно, придумают, будет стоить с точки зрения человеческих и экологических затрат столько же или больше, чем ChatGPT", - сказал Луччиони. "Зачем нам это делать? Что мы на самом деле добавляем в мир, выделяя весь этот углерод, эксплуатируя всех этих рабочих из стран, где у них может не быть таких же возможностей? Для меня это просто еще один цикл шумихи ”.
Маск также раскритиковал переход OpenAI к коммерческой компании, заявив в Twitter: "OpenAI был создан как open source (именно поэтому я назвал его "Открытым" ИИ), некоммерческая компания, чтобы служить противовесом Google, но теперь она стала закрытым исходным кодомкомпания с максимальной прибылью, эффективно контролируемая Microsoft. Совсем не то, что я намеревался ".
Это правда, что OpenAI сильно отклонился от своих первоначальных основополагающих принципов, будучи некоммерческой организацией, которая свободно делится своим кодом. Теперь генеративный ИИ OpenAI - это крупный бизнес, который включает многомиллиардное партнерство Microsoft.
Поскольку такие компании, как Google и Baidu, пытаются конкурировать с гонкой вооружений, инициированной OpenAI, с помощью разработки собственных чат-ботов, похоже, что Маск, генеральный директор Tesla и SpaceX, хочет добавить и свой собственный спин-офф.