ОБЛАКО или КОРОБКА ?

       Vladimir Winner,  CEO and founder Binom AI

Все чаще задают вопрос: можно ли создать коробочную версию, чтобы сделать ИИ-копию опыта и хранить её локально. Я понимаю это желание, поскольку сохранение интеллекта компании или вашего персонального интеллекта становится новой формой интеллектуальной собственности.

Моя цель — предоставить информацию для людей, принимающих решения в компаниях, не углубляясь в технологические детали. Я хочу помочь вам понять новшества, которые нужно внедрить в вашу организацию.

Суть коробочной версии заключается в том, что у компании будет автономный сервер и процессор, а также программное обеспечение, основанное на векторной базе знаний. Эта база будет содержать различные вопросы, ответы и способы их компоновки (принятия решений), основанные на накопленном опыте. В настоящее время ваш Binom функционирует в облачной среде.

В чем разница между коробочной и облачной версиями?
Облачная версия:

• Преимущества:

  • Масштабируемость: Легко увеличивать ресурсы (серверы) по мере необходимости, что позволяет гибко реагировать на изменяющиеся потребности бизнеса.
  • Доступность: Данные и функции доступны с любого устройства, подключенного к интернету, что упрощает работу удаленных сотрудников.
  • Обновления и обслуживание: Все обновления программного обеспечения и обслуживания выполняются автоматически, что снижает необходимость в технической поддержке.

• Недостатки:

  • Зависимость от интернет-соединения: Необходимость стабильного интернет-соединения для доступа к данным и функциям.
  • Безопасность данных: Могут возникать опасения по поводу безопасности данных, особенно в отраслях, требующих строгого соблюдения конфиденциальности.

Коробочная версия:

• Преимущества:

  • Контроль над данными: Все данные хранятся локально, что дает полный контроль над информацией и возможностью защитить её от внешних угроз.
  • Собственная инфраструктура: Позволяет работать без необходимости постоянного интернет-соединения, что может быть критично для некоторых бизнесов.

• Недостатки:

  • Высокие первоначальные затраты: Необходимость инвестирования в оборудование и программное обеспечение может быть значительной.
  • Сложности с масштабированием: Увеличение мощностей требует дополнительных инвестиций и времени на настройку нового оборудования.

Чтобы появилась коробочная версия, необходимо учитывать следующие условия:

• Два сервера с GPU: один основной и один резервный (примерно 20,000 евро).
• Специализированное программное обеспечение: в том числе сам Binom с векторной базой данных (около 3,000 евро в год).

Для того чтобы ваша нейронная сеть эффективно обучалась, необходимо иметь достаточное количество обработанных запросов, включая различные кейсы и консультации. Это позволит локальной версии обучаться на актуальных данных. Облачный Binom снижает значительные расходы, так как нет необходимости содержать команду для обучения локальной версии. Наработка опыта происходит в облаке и может быть постепенно перенесена в локальную версию.

Мы движемся к такому решению. Чтобы локальная версия имела смысл, необходимо собрать не менее 5,000 диалогов для поддержания динамики. Вот три шага, которые мы сейчас планируем:

1. Создание ИИ-копии в облачном Binom: мы будем работать в облаке, писать правила, проверять диалоги, отрабатывать ошибки и наполнять базу данных.
2. Подключение локальной версии: параллельно с работой в облаке мы будем обучать локальную нейронную сеть.
3. Переключение на локальную версию: как только она будет готова к работе, мы начнем использовать её.

Мы также планируем развивать гибридное решение: локальная версия будет более эффективной, если сможет интегрироваться с облачными решениями, но при этом иметь возможность работать автономно.

Тем не менее, локальная версия должна постоянно обучаться и поддерживать соединения через API с источниками данных, CRM-системами и базами данных, чтобы оставаться актуальной, даже при работе в локальном режиме.

Немного о терминах, которые часто путают. Ваша локальная нейронная сеть состоит из:

• GPU (графический процессор): Графический процессор отвечает за выполнение сложных вычислений, связанных с графикой и машинным обучением. Он способен выполнять множество операций одновременно, что делает его идеальным для задач, требующих высокой производительности, таких как обучение нейронных сетей. Проще говоря, GPU — это “мозг” вашей системы, когда дело доходит до обработки визуальной информации и аналитики.
• CPU (центральный процессор): Центральный процессор управляет всеми основными задачами вашего компьютера. Он выполняет вычисления, принимает решения и координирует работу всех компонентов системы. Представьте его как “директора”, который организует и распределяет задачи между различными “работниками” вашего устройства.
• VRAM (видеопамять): Видеопамять используется графическим процессором для хранения временных данных, таких как текстуры и изображения, которые необходимо быстро обрабатывать. Она позволяет GPU эффективно работать с графикой без необходимости постоянно обращаться к основной памяти, что повышает общую производительность. Можно представить VRAM как “стол” для GPU, где хранятся все необходимые инструменты для работы с визуальной информацией.

Вот, вроде бы, все объяснил. Если у вас есть вопросы — обращайтесь!

Искренне Ваш, Владимир Виннер