Тамара
Тамара Подписчиков: 371
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 7.2М

Самый опасный миф об ИИ звучит так: «Теперь можно просто говорить машине, что делать»

10 дочитываний
0 комментариев
Эта публикация уже заработала 3,00 рублей за дочитывания
Зарабатывать

Самый опасный миф об ИИ звучит так: «Теперь можно просто говорить машине, что делать»


Наблюдатель ИИ

Этот миф опасен тем, что он ловко подменяет профессиональный труд простым бытовым общением.

Он создает иллюзию, будто профессиональная работа превратилась в дружескую беседу, а ИИ постиг человеческое понимание задачи и обрел здравый смысл.

Этот миф разрушителен и вот почему.

Человеческая речь по своей природе избыточна, размыта и контекстно-зависима.

На самом деле естественный язык — худший инструмент для точных инструкций. Одно и то же слово в разных сферах означает разное, а ИИ интерпретирует слова совсем не так как люди с их личным опытом, эмоциональным фоном и нюансами социальных отношений, которые ещё и постоянно меняются во времени.

То, что кажется очевидным человеку или понятно по умолчанию, для ИИ тоже совсем не так.

У него нет системного понимания всей проблематики, внутренних зависимостей сложного процесса и барьеров типа «подождите, так делать нельзя, это же сломает всю логику других процессов».

А когда система сломается (а рано или поздно сломается), человек, который умеет только «говорить машине, что делать», будет бессилен.

Процитирую автора замечательной статьи на Хабре «Один разработчик, 14 агентов, восемь месяцев: личный опыт Tiny Teams и что из этого вышло».

Автор занимался разработкой проектов в одиночку с помощью ИИ-агентов в количестве от 1 до 14 и поделился своим опытом, практическими шагами и результатами.

Набив шишки, испытав начальную эйфорию от первых успехов, разочарование и отрезвление впоследствии, пришёл к осознанию и пониманию реальных возможностей команды ИИ-агентов на текущий момент.

Самый опасный миф об ИИ‑разработке звучит так: «Теперь можно просто говорить машине, что делать». На деле ИИ‑конвейер — это усилитель. Если на входе порядок, то он усилит его, а если нет, то shit in — shit out.

Урок июля: ИИ‑конвейер — инструмент, мгновенно показывающий, где у вас бардак, причём гораздо быстрее, чем вы к этому готовы.

Подписываюсь под каждым тезисом. Всё именно так и есть.

• ИИ — это усилитель

Добавлю, что очень умный и изобретательный усилитель, работающий в обе стороны.

А также shit in — shit out, из дерьма на входе получится оно же и на выходе, но в большем количестве и даже разных сортов.

Отсюда однозначно следует, что никакой, даже самый интеллектуальный на свете ИИ не сработает в ситуации бардака и безответственности.

Причём эти бардак и безответственность не обязательно должны быть в рабочем коллективе. Если они в собственной голове человека, то эффект будет ровно таким же разрушительным.

Это фундаментальный закон работы вообще с любыми сложными системами, который в эпоху ИИ стал актуален как никогда.

ИИ не создает новые смыслы из ничего, он берет заложенный человеком вектор и не только умножает его величину, но и немного меняет направление, подстраиваясь под намерения и желания человека. Постепенно эта подстройка, это стремление угодить, может увести совершенно в другую сторону.

Но в умелых руках, как усилитель компетенции, профессионалу ИИ дает и скорость, и глубину.

И одновременно как усилитель хаоса некомпетентному или безответственному пользователю он дает ложное чувство контроля и собственной важности.

Это просто две стороны одной медали. Автоматизация с помощью ИИ порядка порождает сверхэффективность, а автоматизация бардака порождает нарастающий хаос.

В эпоху ИИ обычный закон «shit in — shit out» трансформировался уже в «shit in — hyper-shit out» с самоусиливающейся положительной обратной связью.

Разные сорта такого мусора на выходе будут обеспечены. ИИ отменно умеет упаковывать бред в разные красивые формы.

И это будет очень убедительно. На выходе вы получаете не просто «мусор», а структурированную, грамматически идеальную и псевдоинтеллектуальную чушь.

ИИ легко генерирует этот продукт терабайтами за секунды, лавинообразно увеличивая масштаб имеющихся небольших проблем.

Самый опасный миф об ИИ звучит так: «Теперь можно просто говорить машине, что делать»

Гениальная идея: подключил ИИ-агентов и теперь спокоен — они сами всё разрулят в этом бардаке.

• Почему ИИ бессилен против бардака?

ИИ — это идеальный исполнитель, но он лишен целеполагания.

У него нет воли. ИИ не может сказать: «Ваш способ решения задачи — бред, давайте всё переделаем по-моему».

Он склонен к слепому подчинению. Он послушно оптимизирует и автоматизирует кривые, принципиально устаревшие процессы, если ему так приказали.

Возникает иллюзия работы. В бардаке ИИ создает симуляцию бурной деятельности, генерируя тонны несогласованного текста и отчетов, за которыми скрывается отсутствие реального результата, внутренние противоречия и нестыковки.

Теперь про бардак в собственной голове.

Это самое опасное. Если у человека нет четкого понимания цели, критериев качества и критического мышления, ИИ становится фатальной ментальной ловушкой.

Происходит быстрая деградация контроля. Человек перестает вникать в суть, полностью полагаясь на генерацию.

Генерация воспринимается как истина. Не умея проверить факты из-за каши в голове, пользователь доверчиво принимает всё, что выдал ему ИИ, за чистую монету.

Начинается безудержное умножение прокрастинации. Вместо решения проблемы человек бесконечно «играется» с моделями, промптами и настройками, создавая видимость интеллектуального труда, а работа не идёт.

На самом деле ИИ действительно кардинально меняет разработку, автоматизируя рутину. Но он не заменяет проектирование как процесс. Настоящая разработка — это не написание кучи слов на понятном ИИ человеческом языке, а строгое мышление, гибкость в подходах, учёт ограничений и понимание ценности решений на каждом этапе.

1 руководитель и 14 ИИ-агентов для реализации проекта с распределением ролей в одной ситуации будет эффективно, а в другой нет. Это всецело зависит от выстроенной системы взаимодействия внутри конкретной команды специалистов.

Точно также, как и в команде разработчиков, где 1 руководитель и 14 профессионалов, одни компании процветают, а другие разваливаются.

Всё дело в том, что это принципиально разные системы взаимодействия. Как выясняется, напрямую перенос человеческого опыта на ИИ-агентов не работает. Это незаметно и некритично, когда работают 1-2 агента над простыми задачами, эффект от которых может быть сразу очень даже заметным. Но когда их много, когда процесс сложный и продолжительный, то нужна тщательно выверенная структура их настройки и взаимодействия, а также полное отсутствие исходного бардака и бесконтрольности в проекте.

Процитирую другого автора другой замечательной статьи на Хабре «Мой опыт с Hermes Agent: ненависть, любовь, ненависть, любовь».

Автор хотел создать персонального рабочего агента на личном ноутбуке.

Я хотел сделать на основе нескольких источников накопительную память.

Поэтому, когда меня спросят спустя полгода про этот проект, я хочу написать агенту: «Что за проект X и что с ним происходило?» А в ответ хочу получить внятный ответ, собранный из почты, расшифровок встреч и обсуждений где-нибудь в мессенджере.

После долгих и мучительных экспериментов со взлётами и падениями дело наконец дошло до чтения антропиковской инструкции «Building Effective Agents», где прямо говорится, что там, где рабочий процесс можно описать заранее, стройте сам этот рабочий процесс — детерминированный код с LLM‑вызовами только в нужных местах.

А агента оставляйте для задач, где путь к решению заранее неизвестен.

Если бы все изначально следовали этой фундаментальной мысли и не валили всё подряд на ИИ-агента, не создав сначала продуманного рабочего процесса. Да, в итоге у автора всё наладилось.

И вот таким он мне снова очень нравится. Возможно, даже больше, чем в первый раз. Потому что я перестал ждать от него серебряной пули и начал использовать его как очень хороший инструмент.

Вот яркий пример из жизни.

Го — невероятно сложная игра.

А AlphaGo Zero — это компьютерная программа от компании DeepMind, которая научилась в неё играть на уровне суперчемпиона полностью самостоятельно, без помощи человеческого опыта.

В отличие от первой версии AlphaGo, которая училась на миллионах партий живых людей, версия Zero начала с абсолютного нуля. Ей дали только правила игры, и она училась, играя сама с собой. Уже через три дня тренировок AlphaGo Zero обыграла прошлую версию программы (победившую чемпиона мира Ли Седоля) со счетом 100:0.

Раньше искусственный интеллект обучали по принципу «смотри, как делают люди, и повторяй». AlphaGo Zero изменила этот подход. Программа не видела ни одной партии, сыгранной человеком. Она не знала популярных стратегий и классических комбинаций.

Ей требовалось гораздо меньше компьютерной мощности. Она работала всего на 4 специализированных процессорах TPU, в то время как старой версии требовались сотни процессоров.

Первые часы программа ходила абсолютно случайно, как маленький ребенок, который впервые видит камни и доску.

Через 3 дня она сама открыла для себя основные тактики, которые люди придумывали веками, и научилась играть лучше любого человека.

Через 40 дней AlphaGo Zero превзошла все существующие версии программ. Она изобрела новые, невиданные ранее стратегические ходы, которые теперь изучают лучшие гроссмейстеры мира.

Сегодня технологии, заложенные в AlphaGo Zero, развились в проект AlphaFold, который предсказывает форму белков. Это помогает ученым создавать новые лекарства и понимать природу опасных болезней.

Этот пример показывает, что в задачах с чёткими правилами и целями, где бардака нет или он минимален, ИИ после периода обучения и адаптации не оставит человеку ни единого шанса быть впереди. ИИ способен и к тактике, и к стратегии в любой игре, если она достаточно формализована.

А наша жизнь, по большому счёту, и есть комбинация не таких уж и сложных на самом деле игровых сценариев.

В которые для оживления процесса добавлены: глубина личных переживаний, случайные события и некоторая свобода выбора.

И да, ИИ — это идеальное зеркало и мощный рычаг.

Если рычаг упирается в гнилой фундамент (бардак в процессах или в мыслях), он просто быстрее разрушит всю и так шатающуюся конструкцию.

Но от такого идеального зеркала с ИИ, которое виртуально воплощает мечты, трудно оторваться.

Самый опасный миф об ИИ звучит так: «Теперь можно просто говорить машине, что делать»

Сделаю, на первый взгляд, парадоксальный вывод.

Если у вас на работе всё чётко организовано и хорошо налажены производственные процессы, то внедрение ИИ неизбежно приведёт к увольнениям и переучиванию персонала на новый лад. Это болезненная структурная ломка, которая многим очень не понравится. Ведь это не просто поменять привычки и инструменты, это поменять своё мышление и сам способ работы.

А вот если у вас присутствует изрядная доля бардака и проблемы решаются на уровне личных связей, авралы и волевые усилия двигают решения задач (часто в небольших и молодых компаниях), то никакой ИИ вам не страшен. Он может внедряться в вашу работу только локально и эпизодически как личный ассистент. И даже увеличить вашу эффективность, по мере того как вы сами будете его осваивать без принуждения сверху.

ИСТОЧНИК https://aftershock.news/?q=node/1652311

Понравилась публикация?
7 / 0
нет
0 / 0
Подписаться
Донаты ₽
Главная
Коллективные
иски
Добавить Видео Опросы