27 ноября 2024: SophGo (альтернатива NVidia) - нейросетевая видеоаналитика в реальном времени, запуск LLM / ChatGPT-like и других AI/ML моделей без облаков
Уважаемые Коллеги!
27 ноября 2024 года, в 11:00 по московскому времени начнётся русскоязычный вебинар, на котором познакомим вас с новым вендором на нашем рынке SOPHGO - разработчик и производитель чипов TPU(тезорный процессор), CPU(RISC-V) и серверного борудования на их основе для AI/ML.
SophGo - это успешно конкурирующая с NVidia компания, которая начала создавать альтернативные решения с 2016 г. и на текущий момент предлагает спектр решений на базе собственных TPU, RISK-V, ARM. Решения позволяют делать интеллектуальную видеоаналитику в реальном времени, обучать LLM и применять ML модели.
Компания является разработчиком и производителем TPU чипов со встроенным декодированием видео-потоков и большим объёмом памяти. Это позволяет применять большие ML модели для распознавания объектов, лиц и ситуаций. Интеграция с популярными фреймворками (PyTorch, TensorFlow, ONNX), качественный SDK и готовые примеры на GitHub позволяют легко интегрировать решение в свою инфраструктуру.
Решаемые технические задачи:
- производительная видео-аналитика, машинное зрение (256 каналов параллельного аппаратного декодирования);
- применения моделей машинного обучения / Инференс (224 TOPS INT8 на 300 Вт)
Области применения:
- Edge AI-чипы: для периферийных вычислений, обеспечивающие высокую вычислительную мощность и низкое энергопотребление.
- Интеллектуальные камеры: применение ML моделей, позволяющими обнаруживать, отслеживать и распознавать объекты в режиме реального времени.
- Машинное зрение: умные города, умные дома и интеллектуальные транспортные системы.
- Платформы обработки естественного языка: понимать и генерировать текст и изображения
Поддерживаемые фреймворки и ПО:
- PyTorch, TensorFlow, ONNX, PaddlePaddle, Caffe;
- Resnet50, Yolo, SD V1.5, SDXL, ChatGLM, LLaMA, Falcon;
- FFMPEG, OPENCV, BMCV.
Ключевые темы:
Детали мероприятия:
- Начало: 11:00, Московское время;
- Продолжительность: 1,5 часа;