Илон Маск наносит удар по ChatGPT

Маск также раскритиковал создателя ChatGPT/ OpenAI, как «закрытую, максимально прибыльную компанию, эффективно контролируемую Microsoft».

Илон Маск опровергает растущую популярность ChatGPT заявляя, что программа ИИ небезопасна для массового общественного использования из-за ее способности распространять ложь и предполагаемую пропаганду.

«Что нам нужно, так это TruthGPT», — написал он в Твиттере в пятницу.

В Твиттере Маск указывал на недостатки ChatGPT, который интегрируется в поисковую систему Microsoft Bing для улучшения работы. "Согласованный! Это явно небезопасно», — написал Маск в ответ на твит, в котором призвал Microsoft закрыть ChatGPT в Bing.

Обмен возможно немного ироничен, поскольку первоначальный твит исходил от онлайн-личности, которая точно не известна своей правдой. И Twitter как платформу, и самого Маска также обвиняли в распространении дезинформации.

Тем не менее ясно, что ChatGPT — мощный инструмент; он может писать целые эссе, обобщать сложные темы и даже генерировать компьютерный код, используя простую текстовую подсказку от пользователя. Но в последние дни пользователи социальных сетей опубликовали множество примеров различных ошибок, которые может совершать программа ИИ. Это включает в себя публикацию фактических ошибок, эмоциональную неуравновешенность и отказ отвечать на некоторые политически чувствительные темы, отвечая на другие.

Недостатки побудили Маска нанести несколько ударов по ChatGPT, в том числе высмеять программу ИИ как пропагандистскую машину, которая может вытеснить основные средства массовой информации.

Кроме того, он подверг критику создателя ChatGPT-OpenAI, компанию из Сан-Франциско, которую Маск помог основать, прежде чем разорвать отношения в 2018 году.

«OpenAI был создан как некоммерческая компания с открытым исходным кодом (именно поэтому я назвал ее «Открытый» AI), чтобы служить противовесом Google, но теперь она стала максимально прибыльной компанией с закрытым исходным кодом, эффективно контролируемой Microsoft ", - написал Маск сегодня в твиттере. — Совсем не то, что я имел в виду.

OpenAI на этой неделе признал, что его процесс «тонкой настройки» ChatGPT «несовершенен».

«Иногда процесс тонкой настройки не соответствует нашим намерениям (создать безопасный и полезный инструмент) и намерениям пользователя (получить полезный результат в ответ на заданный ввод)», — говорит OpenAI. «Улучшение наших методов согласования систем ИИ с человеческими ценностями является главным приоритетом для нашей компании, особенно по мере того, как системы ИИ становятся более функциональными».

Критическая позиция Маска неудивительна. В течение многих лет он бил тревогу об опасностях ИИ. Еще в 2014 году он сказал: «С помощью искусственного интеллекта мы вызываем демона». В том же году он написал в Твиттере, что ИИ может быть «более опасным, чем ядерное оружие».

Ранее на этой неделе Маск заявил, что правительствам пора вмешаться. «Честно говоря, я думаю, что нам нужно регулировать безопасность ИИ», — сказал он на Всемирном правительственном саммите в Дубае. «Я думаю, что у нас должен быть аналогичный регулирующий надзор за искусственным интеллектом, потому что я думаю, что это больший риск для общества, чем автомобили, самолеты или медицина».

(Говоря об автомобилях Tesla, где Маск также является генеральным директором, на этой неделе объявила о добровольном отзыве 362 758 автомобилей из-за бета-обновления программного обеспечения своего собственного ИИ, которое по словам компании, может привести к тому, что автомобили не будут соблюдать местные правила дорожного движения и увеличить риск аварии.)

Призывы к регулированию могут расти по мере того, как компании внедряют чат-ботов на базе ИИ для большего числа пользователей по всему миру. Но в то же время есть признаки того, что и OpenAI, и Microsoft учитывают отзывы общественности с помощью настроек ChatGPT.

В случае с OpenAI компания готовит обновление, которое позволит пользователям настраивать ChatGPT, чтобы устранить его предвзятость по определенным деликатным темам. «Это будет означать разрешение выходных данных системы, с которыми другие люди (включая нас) могут категорически не согласиться», — заявили в компании.

С другой стороны Microsoft, рассматривает возможность добавления дополнительных ограждений, чтобы обуздать жуткие ответы от Bing на базе ChatGPT, согласно The New York Times. Это включает в себя ограничение продолжительности разговора, что иногда может сбить Bing с толку и заставить его давать странные ответы.