GitLab розширив GitLab Duo Self-Hosted для підтримки моделей, розгорнутих через Microsoft Foundry, дозволяючи організаціям запускати можливості розробки ШІ GitLab на моделях, розміщених у середовищі Azure за їхнім вибором. Ця інтеграція підтримує сімейства моделей, такі як OpenAI GPT, Anthropic Claude, Meta Llama та Mistral, надаючи підприємствам більше вибору постачальників моделей, місць розгортання та шляхів даних.

Цей крок особливо актуальний для організацій з вимогами до резидентності даних, суверенітету, нормативних актів або вимог до розділення мережі. GitLab Duo Self-Hosted дозволяє організаціям використовувати власні шлюзи штучного інтелекту та розгортання моделей замість надсилання запитів штучного інтелекту до інфраструктури моделей, якою керує GitLab. Це дозволяє адміністраторам краще контролювати, де обробляються запити та відповіді та як розгортається основна модель.

Ця архітектура складається з трьох основних компонентів: самокерованого екземпляра GitLab, самостійного шлюзу GitLab AI Gateway та однієї або кількох кінцевих точок моделі, розміщених через Microsoft Foundry. Замість того, щоб безпосередньо прив’язувати окремі функції Duo до конкретного постачальника моделі, шлюз діє як посередник між GitLab Duo і моделлю за вашим вибором.

Важливим аспектом інтеграції є вибір моделей функціонального рівня. Організації можуть використовувати різні моделі залежно від різних функцій GitLab Duo. Наприклад, орієнтована на код модель для пропозицій коду, інша модель для робочих навантажень агентів і менша модель для завдань великого обсягу. Ви також можете змінювати розгортання моделі, не змінюючи принципово робочий процес розробки GitLab.

Цей підхід також підкреслює важливі компроміси з власним ШІ. Надання організаціям контролю над своїми моделями та інфраструктурою забезпечує більшу гнучкість, але також перекладає більше відповідальності на команди інженерів і платформ. Окрім самого середовища GitLab, вам потрібно керувати розгортанням моделі, потужністю, мережею, обліковими даними, доступністю та життєвим циклом моделі.

Це також означає, що доступність моделі не означає автоматично сумісність із GitLab Duo. Каталог Microsoft Foundry може змінюватися швидше, ніж підтримувана матриця моделей GitLab, тому організаціям слід перевірити сумісність між обома платформами перед вибором моделі.

Підхід GitLab ґрунтується на ширшому відході від розгляду інструментів розробки штучного інтелекту та базових моделей як єдиної комплексної служби. Сама Microsoft Foundry надає доступ до моделей від багатьох постачальників, а GitLab забезпечує розробку та рівні DevSecOps навколо них.

Також є схожість з іншими платформами для розробки підприємств. Наприклад, GitHub Copilot розширив підтримку кількох базових моделей, але його стандартний досвід все ще тісно інтегрований із керованими службами GitHub. Підхід GitLab до саморозміщеної моделі фокусується на контролі інфраструктури AI та мережевих шляхів. З іншого боку, такі платформи, як Amazon Bedrock і Microsoft Foundry, забезпечують багатомодельну інфраструктуру, але самі по собі не замінюють інтегровані платформи DevSecOps, такі як GitLab.

Це робить середовище розробки все більше схожим на незалежний від моделі рівень керування. Хоча GitLab керує робочими процесами розробників і можливостями штучного інтелекту, організації можуть вирішувати, які моделі стоять під ним.

Таким чином, значення цього оголошення виходить за рамки іншої інтеграції моделі. У міру того як штучний інтелект стає все глибше інтегрованим у розробку програмного забезпечення, компаніям все частіше потрібно приймати рішення не лише про те, які можливості штучного інтелекту використовуватимуть розробники, а й про те, де запускаються моделі, куди відправляються вихідний код і підказки, хто контролює облікові дані та яка юрисдикція обробляє дані.

Інтеграція Microsoft Foundry від GitLab вирішує частину цієї проблеми, дозволяючи організаціям розгортати рівень моделі штучного інтелекту в середовищі Azure за власним вибором. Корпоративні інструменти штучного інтелекту дедалі більше зосереджуються на виборі моделі, контролі розгортання та суверенітеті даних, а не на припущенні, що найкращий досвід розробки вимагає єдиного централізованого постачальника штучного інтелекту.