Шейн Суини занимает должность технического директора в компании OpenAI и получил известность благодаря своей поддержке и техническому участию в проекте Caveman — плагине, который сокращает количество токенов, используемых при генерации ответов искусственным интеллектом, до 75% без потери точности.
Проект Caveman был создан разработчиком Юлиусом Брюссе и направлен на оптимизацию работы языковых моделей, таких как Codex, Claude и Gemini, путем упрощения стиля ответов — ИИ «говорит» максимально кратко и по существу, исключая вводные и вежливые фразы. Суини лично внёс изменения в репозиторий Caveman, добавив поддержку Codex, что свидетельствует о заинтересованности OpenAI в снижении затрат на использование своих моделей.
Инициатива возникла на фоне роста расходов на вычислительные ресурсы и API в индустрии искусственного интеллекта, особенно в задачах автоматизированного программирования. Плагин Caveman уже используется в таких компаниях, как Nvidia и GitHub, где переход на оплату по количеству токенов сделал экономию особенно актуальной.
Оптимизация за счёт упрощения стиля общения моделей помогает не только снизить затраты, но и ускорить генерацию ответов. Однако эксперты отмечают, что такой подход подходит не для всех сценариев: в юридических, медицинских и клиентских коммуникациях важен тон и нюансы, которые могут пострадать при чрезмерном сокращении текста.
Таким образом, Шейн Суини выступает как представитель OpenAI, поддерживающий инновационные методы повышения эффективности использования ИИ, что отражает тенденцию индустрии к поиску баланса между качеством и стоимостью сервисов.