Нравится – не нравится, но придется …

Нравится – не нравится, но придется …

Не вышло – мое дело шестнадцатое. Помогал детям – и дело с концом. (с)

Не раз, читая фантастику, сталкивался с сюжетом, когда в руки условным «нам» (от имени которых ведется рассказ), попадают некие артефакты иных, неизмеримо более могучих цивилизаций. Это могут быть условно полезные вещи («Абсолютное оружие») или не очень (тот же «Пикник») – не столь важно. Важно то, что условные «мы» не знаем механизма действия этих артефактов, не способны их воспроизвести или даже починить.

Вот отсюда я начал цепочку своих рассуждений. Если уважаемые коллеги по АШ мне «как дважды два докажут, что я — старый дурак, а прав, оказывается, председатель комиссии по распределению доктор Серафимович» ~(с), я даже не буду расстроен, учитывая то, что буду писать далее.

Итак, менее чем через 2 месяца исполнится 4 года с тех пор, как широкие народные массы узнали про ИИ, LLM и прочее. С тех пор началась целая эпоха большого хайпа (как я это называю), которая пока находится еще на пике. У меня (извините за отступление) возникает ассоциация с показываемыми кадрами из жизни океана, когда стая дельфинов настигает косяк рыбы, сбивает его в шар и заставляет подниматься к поверхности, чтобы максимально ограничить передвижение. И потом начинается пиршество: дельфины и акулы снизу и с боков, олуши сверху, а завершает все огромный кит. Вот примерно так я оцениваю происходящее сейчас в сфере ИИ. Но разговор не об этом.

Сначала повторю (уже писал об этом) такую цепочку (умышленно упрощаю): представим себе, что есть некий вопрос, на который накопленный человечеством арсенал источников информации в 60% случаев дает ответ А, а в 40% случаев – ответ Б. На относительно абстрактный вопрос, заданный ИИ (если явно или неявно предполагается единственный ответ), тот ответит, исходя из вероятности, т.е. даст ответ А. Получить ответ Б тоже можно и довольно просто, но нужно, во-первых, предполагать саму возможность его существования, во-вторых, приложить некоторые усилия. Пусть результат, полученный ИИ, в свою очередь, пополнит копилку знаний человечества (например, войдет в опубликованную статью), которая будет использоваться для обучения того же ИИ. ИИ работает 24/7. Когда объем произведенных им знаний сравняется с тем, что был на старте, вероятность получения ответа А станет уже 80%. И так далее. Конечно, этот быстроногий Ахиллес никогда не догонит эту черепаху, но уже через пару «оборотов» получение ответа Б станет не настолько тривиальной задачей. То есть, будет требовать от вопрошающего уже гораздо большего понимания (теперь представьте себе, что исходный вопрос: кто брал Берлин в 1945?).

ИИ может быть довольно мощным инструментом. Но ИИ не производит новых знаний, он лишь компилирует имеющиеся. Для работы с ним человек должен обладать, во-первых, умением ставить задачи (то есть, понимаем самой задачи, ее декомпозицией и т.д., и т.п.), во-вторых, умением оценить ответ ИИ, поняв, когда тот, грубо говоря, ошибается или мягко выражаясь, бессовестно врет.

Очень грубый пример: вам нужно умножить 1853 на 27369. Вы вводите множители в калькулятор и смотрите на результат. Обладая некоторыми познаниями, вы способны понять, что в результате получится целое число, последней цифрой будет обязательно 7, можете прикинуть количество значащих цифр и проч., чтобы понять, когда предлагаемый ответ заведомо неверен. Но если вы не учили умножение, максимум того, что сможете – взять другой калькулятор и сравнить результаты. Хорошо, если совпадут, а если нет?

Дети, только вступающие сейчас в стены иногда весьма средней школы уже на «ты» с ИИ. «Гигачат, объясни, что такое биссектриса» - ага, щас. «Гигачат, сделай домашку» - вот правильный промпт. В розовом вчера, чтобы просто списать у отличника, нужно было потратить некоторые усилия, хотя бы зрительная и мышечная память работали. Сейчас это уже не нужно, тем более что и учителя с удовольствием поручат ИИ составлять домашние задания и проверять письменные работы (уже поручили?). Понятно, что все сейчас озабочены широким внедрением ИИ, в том числе, в образование – вон уже курс обязательный вводят.

Но тогда вопрос: через 10-15 лет где взять тех экспертов/профессионалов/ваш эпитет, которые умеют ставить задачи и рецензировать ответы? Да, возможно, их нужно будет даже меньше, чем сейчас, но ведь они будут нужны. Иначе произойдет «разрыв компетенций», отсутствие передачи знаний и навыков следующему поколению. А такой разрыв преодолевается многими годами и серьезными усилиями со стороны государства (что мы видим на примере нашей страны в ее новейшей истории). Не то, чтобы я такой мега-философ и сам до этого дошел – за последний год слышал не одно опасение на эту тему от людей из разных отраслей народного хозяйства.

Такие эксперты будут очень хорошо «устроены» в жизни, но их надо сначала вырастить. Да, мне возразят, что во все времена были «белые вороны», уникумы и т.п., но надо понимать другое – сам процесс получения знаний, который ранее требовал усилий, теперь стал обманчиво прост – только спроси. И лично я очень ясно вижу картину, когда на выходе из школы/института юная личность будет обладать единственным устойчивым навыком – созданием промптов. Что, в том числе, заменит, по ее - личности мнению, любые знания в любых областях (ибо, в самом деле, зачем загружать память, «айда в кино!» (с)). Это как наркотик. И преодоление этого искуса со стороны ребенка, да еще вдобавок при мощнейшем давлении социума вокруг – нетривиальная задача.

И я вижу эту задачу именно как государственную, ибо возможные последствия такого разрыва будут посильнее, чем Фауст атомная бомба, что мы наблюдаем прямо сейчас – развитие тех же дронов требует развития технологий их производства, развитие технологий управления, развития алгоритмов их взаимодействия между собой и развития технологий противодействия им. И кто из претендующих на силу государств в этой гонке опоздает – vae victis!

И вот у меня получается, что государство должно создавать некие спецшколы (скорее, даже интернаты), набирать туда детей по результатам тестирования потенциальных способностей и вводить жуткий казарменный режим. Сначала - интернет не более часа в день, звонки только по кнопочному, никаких гаджетов, соцсетей – ручка и бумага, и прочее. С возрастом – некие послабления. Туда же свозить лучших учителей. И выращивать в этих инкубаторах тех самых необходимых будущих спецов. Причем нынешние всякие центры и прочие элитные заведения не очень, по-моему, справятся, потому что там как раз наоборот – будут стремиться «обучать работе с ИИ». Ибо это модно.

Проблему вижу в том, что государству это нужно делать уже вчера. Ибо ни один «частник» это не потянет, а очень скоро процесс может стать необратим – повторю, новые первоклассники уже пришли в школы.

Комментарий автора:

Без явного указания источника (или его наличия – значок копирайта) все изложенное представляет собой не более чем мысли и мнение автора (с поправкой на старика Экклезиаста), не претендующее не только на абсолютную истину, но и на истину как таковую.

ИСТОЧНИК https://aftershock.news/?q=node/1658902