- Разрыв между коммерческим дискурсом компаний, занимающихся искусственным интеллектом, и реальностью их собственных внутренних операционных процессов.
- В условиях автоматизации сохраняется потребность в человеческом суждении и эмпатии в управлении конфликтами и обслуживании клиентов.
- Этические противоречия, касающиеся интеллектуальной собственности и использования данных для обучения генеративных моделей.
Удивительно наблюдать, как технологический сектор продает нам будущее, в котором автоматизация решит все проблемы, в то время как на практике компании, создающие эти инструменты, похоже, застряли в архаичных процессах, когда это им выгодно. Мы живем в эпоху грандиозных обещаний, где искусственный интеллект (ИИ) представляется панацеей, но часто вступает в прямое столкновение с гораздо более приземленной и, порой, противоречивой реальностью.
Если копнуть глубже в агрессивный маркетинг, мы обнаружим огромную пропасть между тем, что нам говорят о возможностях ИИ, и тем, что сами разработчики осмеливаются внедрять в свой бизнес. Речь идёт не об отрицании потенциала технологии, а скорее о том, чтобы подчеркнуть цифровой цинизм, который возникает, когда корпоративная риторика не соответствует реальному предоставлению услуг.
Пример OpenAI: проповедовать другим то, чего не делаешь дома.
Представьте, что вы хотите запросить возврат средств за PRO-подписку от OpenAI. Вы ожидаете, что передовая технологическая революция будет иметь безупречную систему, но сюрприз ждет вас, когда вы обнаружите, что для осуществления такого базового права, как право на отказ от договора в Европейском Союзе, ИИ быстро сдается и перенаправляет вас к оператору-человеку . После нескольких часов ожидания, наконец, запрос обрабатывает настоящий агент.
Самое ироничное во всей этой истории то, что та же компания предлагает курсы, которые подробно учат программировать автономных агентов для управления возвратами средств, используя в качестве примера авиационный сектор. Это классический сценарий «делайте, как я говорю, а не как я делаю», когда они продают вам инструмент для автоматизации процесса, который сами не смогли внедрить в производство для собственной выгоды.
Если проанализировать процесс возврата средств в соответствии с европейским законодательством, мы увидим, что это строго детерминированная задача : проверить географическую область, убедиться, что прошло не более 14 дней, и произвести платеж. Тот факт, что OpenAI не делегирует это своим моделям, но призывает разработчиков использовать свои API для выполнения той же задачи, является довольно наглядным свидетельством текущего состояния автономных агентов.
Возвращение к человеческим ценностям и реальность Klarna
Они не единственные, кому пришлось отступить. Генеральный директор Klarna, один из самых ярых сторонников замены клиентской поддержки искусственным интеллектом, в итоге признал, что ничто не ценнее человека . Наполнив мир технологическим оптимизмом, он пришел к выводу, что способность устанавливать контакт с другим человеком — это незаменимый актив.
Это озарение не случайно. Когда у пользователя возникает серьезная или неприятная проблема, чат-бот часто лишь усиливает гнев клиента. В отличие от этого, вмешательство человека может распознать эмоциональный накал с помощью простой фразы и скорректировать тон разговора, чтобы успокоить ситуацию, чего искусственный интеллект пока не может воспроизвести естественным путем.
Кроме того, реальные сотрудники выступают в роли важных датчиков для бизнеса. Агент службы поддержки может выявлять аномальные закономерности в заявках и оповещать инженеров о конкретной неисправности продукта, основываясь на своем понимании контекста — это качественная аналитическая способность, которую, по прогнозам экспертов отрасли, заменит искусственный интеллект, но которая на практике остается в значительной степени человеческой.
Война эго и кража интеллектуальной собственности
Лицемерие не ограничивается оперативным уровнем; оно распространяется и на этику обучения моделей. Крупные корпорации использовали тысячи книг и статей без разрешения и компенсации для обучения своих систем. Это стандартная процедура для «больших боссов» в сфере ИИ, которые прикрываются концепцией «добросовестного использования», чтобы присваивать чужие работы.
Абсурдно, что такие руководители, как Сатья Надела из Microsoft, осуждают лицемерие других, когда речь заходит о «дистилляции» (когда небольшие компании используют крупные модели для обучения собственных). Другими словами, они защищают право гиганта использовать общедоступные данные, не платя авторам , но затем чувствуют себя жертвами, когда тот же процесс повторяется в меньшем масштабе против них. Даже когда Google разрабатывает специальный чип для Gemini в стремлении к повышению эффективности, этическая основа обучения остается главным предметом спора.
Цинизм в сфере подбора персонала
Чтобы составить полную картину несоответствий, достаточно взглянуть на объявления о вакансиях некоторых из этих компаний. Например, компания Anthropic в своих анкетах прямо указала, что кандидаты не должны использовать генеративный ИИ для написания текстов, утверждая, что хочет оценить естественные коммуникативные навыки человека.
Для одной из компаний, которая больше всего хвастается способностью ИИ писать, запрет на его использование в процессе отбора персонала — это проявление полнейшего цинизма. Нас призывают внедрять ИИ во все сферы нашей профессиональной жизни, но когда дело доходит до оценки человеческих качеств , сам инструмент, который они продают, становится препятствием.
Вся эта картина говорит о том, что, хотя потенциал ИИ огромен, полная замена человеческого суждения по-прежнему остается далекой мечтой. Пока технологические гиганты продолжают раздувать ажиотаж и предлагать решения, которые сами не внедряют в свои самые базовые процессы, мы должны сохранять здоровую дозу скептицизма по отношению к чрезмерной шумихе в этой индустрии.