Построение инфраструктуры для работы с LLM: опыт X5 Tech — лекция от Мичила Егорова, AIWW25

AIWW — проектная школа по машинному обучению от AI Talent Hub. ◼️ Полезно про AI в нашем Telegram-канале: http://t.me/aitalenthubnews ◼️ AI Talent Hub: https://ai.itmo.ru/?utm_source=youtub... Тайм-коды: 00:03 Введение и знакомство 01:13 Опыт и достижения 02:54 Требования к инфраструктуре 04:49 Локальная инфраструктура 06:38 Архитектура и масштабирование 10:31 Сервис маскирования 13:06 Выбор провайдера 17:08 Токен-менеджмент и тарификация 18:58 Инференс и бэкенды 20:39 Сравнение подходов и производительность 25:52 Мониторинг и логирование 29:33 Выбор новых моделей 32:02 Тестирование моделей 34:27 Создание внутреннего бенчмарка 40:12 Итоги и советы 41:25 Лаборатория искусственного интеллекта 44:40 Применение Open Source 46:44 Продуктивизация и использование LLM 48:18 Локальное развертывание 49:21 Проблемы с запросами и VPN 50:40 Управление базами знаний 52:28 Внешние модели 53:08 Финансовые показатели 57:53 Внутренние решения 59:28 Оценка и метрики 01:02:02 Заключение

Inside Hudson River Trading's Blistering Token Burn | Odd Lots
▶︎

Inside Hudson River Trading's Blistering Token Burn | Odd Lots

Build an AI agent in 60 minutes
▶︎

Build an AI agent in 60 minutes

Что такое RAG в LLM и причём тут векторные базы данных
▶︎

Что такое RAG в LLM и причём тут векторные базы данных

Артем Самойлов. Мультиагентные системы и автопромптинг
▶︎

Артем Самойлов. Мультиагентные системы и автопромптинг

Практические аспекты применения онтологий в ИИ-приложениях - Павел Саловский - Семинар AGI
▶︎

Практические аспекты применения онтологий в ИИ-приложениях - Павел Саловский - Семинар AGI

Методы дообучения LLM (LoRA)
▶︎

Методы дообучения LLM (LoRA)

Мичил Егоров — Вашей компании LLM не нужен? Построение инфраструктуры с нуля
▶︎

Мичил Егоров — Вашей компании LLM не нужен? Построение инфраструктуры с нуля

AI-оркестрация - от хаоса промптов к управляемым системам
▶︎

AI-оркестрация - от хаоса промптов к управляемым системам

Critical LLM knowledge in AN HOUR! Everyone should know this.
▶︎

Critical LLM knowledge in AN HOUR! Everyone should know this.

💬 Контекстное окно LLM — что это и как оно влияет на работу моделей?
▶︎

💬 Контекстное окно LLM — что это и как оно влияет на работу моделей?

Как Создавать ИИ-Агентов: Полное Руководство для Начинающих
▶︎

Как Создавать ИИ-Агентов: Полное Руководство для Начинающих

How to choose infrastructure for LLM? From hardware selection to working in Kubernetes 💥
▶︎

How to choose infrastructure for LLM? From hardware selection to working in Kubernetes 💥

Родион Мостовой - Решение сложных задач через LLM + AI Code Review - AI Driven Development @MOST IT
▶︎

Родион Мостовой - Решение сложных задач через LLM + AI Code Review - AI Driven Development @MOST IT

Единственная женщина-вор в законе СССР
▶︎

Единственная женщина-вор в законе СССР

LLM + RAG: ингредиенты приготовления умного ИИ-ассистента
▶︎

LLM + RAG: ингредиенты приготовления умного ИИ-ассистента

Я перестал мечтать и начал делать (вот что сработало)
▶︎

Я перестал мечтать и начал делать (вот что сработало)

Лучший Гайд по Kafka для Начинающих За 1 Час
▶︎

Лучший Гайд по Kafka для Начинающих За 1 Час

Построение LLM инфраструктуры и создание AI ассистентов для разработчиков / Егор Баранов, Сбер
▶︎

Построение LLM инфраструктуры и создание AI ассистентов для разработчиков / Егор Баранов, Сбер

START YOUR TUESDAY WITH FAITH | TODAY GOD IS GIVING YOU UNEXPECTED OPPORTUNITIES | FATHER FREDDY ...
▶︎

START YOUR TUESDAY WITH FAITH | TODAY GOD IS GIVING YOU UNEXPECTED OPPORTUNITIES | FATHER FREDDY ...

Lecture: Transformer Architecture: Introduction, Transformer Encoder
▶︎

Lecture: Transformer Architecture: Introduction, Transformer Encoder