Nvidia участва във финансиране на стартъпа Baseten, който работи в сферата на изкуствения интелект. Инвестицията се разглежда като индикация, че пазарният фокус се измества към инференцията – етапът, в който AI моделите се използват реално, за да генерират отговори и резултати.
Nvidia подкрепя Baseten
Nvidia е сред инвеститорите в инвестиционен рунд на Baseten – компания, ориентирана към практическото използване на AI модели. Подобни сделки подчертават значението на екосистемата около внедряването на модели, а не само тяхното обучение.
Какво представлява инференцията и защо е важна
Инференцията е процесът, при който обучен AI модел изпълнява заявки и генерира изход – например отговор на въпрос, препоръка, класификация или друго предсказание. С нарастването на реалните приложения на изкуствения интелект, този етап става критичен за разходите, скоростта, надеждността и мащабирането на услугите.
Инвестицията в Baseten насочва вниманието към следващата фаза на AI пазара: ефективното изпълнение на модели в продукционна среда, където производителността и цената на заявка са решаващи.Сигнал за промяна във фокуса на AI пазара
Участието на Nvidia в рунд, свързан с компании за инференция, може да се тълкува като сигнал за засилен интерес към инфраструктурата и софтуерните слоеве, които правят AI моделите използваеми в реални продукти. Това включва оптимизация на изчисленията, управление на натоварванията и по-добро използване на хардуера при обслужване на голям брой заявки.
Какво означава това
- Повече внимание към продукционния AI: фокусът се измества от обучение на модели към тяхното ефективно внедряване и изпълнение.
- Ръст на компании за инференция: специализираните фирми могат да станат ключови за мащабирането на AI приложения.
- Оптимизация на разходите: инференцията влияе пряко върху цената на една заявка и маржовете на AI услугите.
- Стратегически ход за Nvidia: инвестиции в този сегмент могат да подкрепят търсенето на решения за ускорение и инфраструктура около AI.
