Поспішна інтеграція штучного інтелекту (ШІ) у бізнес-процеси стикається з досить складною і, іноді, недооціненою реальністю: масове впровадження ШІ може обернутися значними витратами, причому справжня вартість може істотно перевищувати ціни за мільйон токенів, вказані на сайтах постачальників.
Згідно з нещодавніми даними PYMNTS Intelligence, витрати на впровадження ШІ є другою за важливістю перешкодою для впровадження генеративного ШІ, з 46.7% респондентів, які зазначили це як турботу, поступаючись лише складністю інтеграції.
На перший погляд, витрати на використання сучасних генеративних моделей зменшуються відповідно до цін, які встановлюють компанії ШІ.
Наприклад, на початку 2023 року вартість GPT-4 від OpenAI з контекстним вікном у 8 тисяч токенів становила 30 доларів за мільйон токенів введення та 60 доларів за мільйон токенів виведення. У 2023 році GPT-4 Turbo, більш потужна версія, ймовірно, коштує на 50% до 67% менше: 10 доларів за мільйон токенів введення та 30 доларів за вивід.
Згідно зі звітом Stanford’s 2025 Artificial Intelligence Index, оскільки моделі ШІ стають більш потужними і компактними, витрати на їх використання у практиці — інференцію — «зменшилися від дев’яти до 900 разів на рік», зазначено в звіті.
Коли йдеться про інфраструктуру, витрати зменшилися на 30% на рік, тоді як енергоефективність покращилася на 40% щорічно, відповідно до звіту Stanford. Більше того, моделі з відкритим доступом, що безкоштовно використовуються, наближаються за якістю до закритих моделей.
Проте ці поверхневі показники розповідають лише частину історії.
Хоча ціни на моделі знизилися з 2022 року, загальна вартість володіння «залишалася стійкою до знижень», сказав Муат Джуаді, засновник SearchQ.AI. «Справжні витрати лежать у прихованій інфраструктурі, включаючи команди обробки даних, забезпечення безпеки, постійний моніторинг моделей та архітекторів інтеграції, необхідних для з’єднання ШІ з існуючими системами».
На кожний долар, витрачений на моделі ШІ, компанії витрачають п’ять до десяти доларів, щоб підготувати ці моделі до виробництва і відповідності вимогам підприємства, додав Джуаді. «Виклики інтеграції зазвичай виявляються дорожчими, ніж сама технологія, і вимагають значних інвестицій у управління змінами та перепроєктування процесів, що багато організацій недооцінюють».
Крім того, витрати на впровадження ШІ «не є разовою витратою, а тривалою операційною зобов’язаністю», додав Джуаді.
Отже, чому впровадження ШІ стрімко зростає? Джуаді зазначив: «Компанії, які успішно впроваджують ШІ, не чекають, поки витрати впадуть нижче; вони визначають конкретні випадки використання, де навіть поточні витрати можуть забезпечити вимірну віддачу інвестицій».
Самостійне хостинг може знизити витрати
Для багатьох підприємств ранні рішення, такі як вибір між самостійним хостингом, використанням хмари чи сторонньої інфраструктури, можуть визначати до 40% витрат на ШІ, зазначив Павло Бантсевич, менеджер проєктів та консультант з рішень у Pynest. Хостинг у хмарах може бути ідеальним для прототипів, але витрати можуть зрости, коли навантаження збільшується.
Бантсевич розповів про досвід роботи з американською будівельною компанією, яка працює більше ста років, для розробки інструменту прогнозної аналітики на базі ШІ, який розмістили в хмарах. Витрати на інфраструктуру становили менше 200 доларів на місяць. Але після запуску та початку використання витрати різко зросли до близько 10,000 доларів на місяць. Перехід на самостійний хостинг з використанням відкритої моделі Llama від Meta знизив витрати до близько 7,000 доларів на місяць, і вони залишаються під контролем.
У іншому випадку, європейський роздрібний клієнт Бантсевича з понад 50,000 працівників хотів впровадити модуль комп’ютерного зору для машин самообслуговування. Але компанія не захотіла використовувати хмарні рішення. Замість цього вона вибрала самостійний хостинг, використовуючи невелику модель Llama, що показала хорошу продуктивність. Витрати становили менше 10 доларів на місяць на машину. «Якби було обрано хмарне рішення, витрати були б колосальними», — зазначив він.
Бантсевич вважає, що витрати продовжать знижуватися, оскільки набори даних сьогодні більш доступні, а постачальники хмарних рішень знижують свої ціни для утримання клієнтів. «Можливо, в найближчому майбутньому витрати на ШІ будуть подібні до рахунків за електроенергію», — прогнозує він.
Між тим, фінансовий директор компанії Bill Рохіні Джейн порадила підприємствам скористатися ШІ, який вже інтегрований в платформи, які вони використовують, такі як для виставлення рахунків, платежів або прогнозування, а не додавати автономні інструменти з «недоступними» цінами. «Інтегровані рішення зазвичай пропонують кращу віддачу інвестицій і передбачувані витрати, такі як підписка», — сказала вона.
Фергал Глін, директор з маркетингу та адвокат безпеки ШІ компанії Mindgard, зазначив, що впровадження ШІ може коштувати всього 10,000 доларів для базових проєктів, тоді як системи для великих підприємств можуть обійтися в мільйони доларів. Більшість компаній витрачають від 50,000 до 500,000 доларів на практичні випадки, такі як аналітичні інструменти чи чат-боти; менші фірми часто платять менше, використовуючи готові рішення на базі ШІ.
Ніколь ДіНікола, глобальний віце-президент з маркетингу в Smartcat, зазначила, що впровадження ШІ не має бути «або-або».
«Багато платформ, включаючи безкоштовні або недорогі варіанти, дозволяють організаціям почати з невеликого і поступово розширити впровадження з часом», — сказала ДіНікола. «На відміну від традиційного SaaS, який часто вимагає тривалого входження, попередніх витрат і повномасштабного впровадження для демонстрації вартості, ШІ може забезпечувати суттєвий вплив без повної інтеграції на рівні організації».
ДіНікола звернула увагу на команди, які впроваджують ШІ в робочі процеси та вже отримують економію ресурсів і ефективності. «Значення ШІ має тенденцію до зростання, проте навіть невелике впровадження може призвести до чітких та вимірних поліпшень».
Гіршим результатом було б уникнення впровадження ШІ через його витрати та складність.
«Бездіяльність часто є більш дорогим шляхом, навіть якщо це неочевидно на перший погляд», — додала ДіНікола. «Хоча така затримка може здаватися безпечною, ранні користувачі вже створюють імпульс, покращують процеси, швидше вчаться і розширюють свою конкурентну перевагу».