Создайте систему вопросов и ответов на базе искусственного интеллекта корпоративного уровня за 5 минут: начните работу с решением FastGPT с открытым исходным кодом.

(0 комментариев)

В современную цифровую эпоху спрос предприятий на интеллектуальные услуги растет с каждым днем, а сценарии применения, такие как обслуживание клиентов с помощью искусственного интеллекта и вопросы и ответы для продавцов, становятся все более распространенными. Многие друзья сообщили мне, что им необходимо построить аналогичную систему вопросов и ответов внутри компании, надеясь найти решения с открытым исходным кодом и понять, как их интегрировать в существующий код. В этом видео я покажу вам, как использовать платформу с открытым исходным кодом FastGPT для реализации внутренней системы вопросов и ответов на уровне предприятия. На самом деле процесс не сложный, давайте разберемся.

Анализ структуры FastGPT

FastGPT — это система вопросов и ответов базы знаний, основанная на модели большого языка LLM и имеющая множество практических функций. Он не только предоставляет готовые функции обработки данных и вызова моделей, но также обеспечивает оркестрацию рабочих процессов посредством визуализации процессов для реализации сложных сценариев вопросов и ответов. На схеме архитектуры левая сторона отвечает за основные данные и хранилище векторных данных. Модельный шлюз построен через API посередине. Нижняя часть может соединять различные большие модели, и можно использовать даже локально развернутые большие модели с открытым исходным кодом. Выбор очень богат.

Процесс развертывания системы

Выбор сервера

Из-за высокого спроса на ресурсы графического процессора для операций с большими моделями, если используется чистый процессор, ответ на вопросы и ответы может занять больше минуты. Поэтому на этот раз я выбрал сервер с графическим процессором и использовал облачную платформу интеллектуальных вычислений GPUEZ. На этой платформе мы сдаем в аренду инстанс с 48G видеопамяти по запросу. Поскольку это демо-проект, я решил платить по мере использования, арендовать его на час и указать базовое изображение. Платформа очень удобна в использовании для научных исследований и исследований, связанных с машинным обучением и искусственным интеллектом. После запуска экземпляра поддерживаются как SSH-соединение, так и режим Jupiter Lab. После входа выберите терминал, аналогичный консоли входа в систему SSH. Вы можете вводить команды LINUX и получать отзывы.

Установка FastGPT

Чтобы установить FastGPT, мы используем метод Docker Compose, который подходит для систем LINUX, Mac OSX и Windows. Операция проста и ее можно назвать «безмозглой установкой». Единственная необходимая конфигурация — это доступ модели к одной платформе API. Если взять в качестве примера доступ к крупной внутренней модели общественного благосостояния, нетрудно следовать документам, предоставленным FastGPT.

Создайте базу знаний

  1. Настройте прокси-сервер и создайте новую базу знаний . Настройте порт прокси-сервера в облаке интеллектуальных вычислений и получите ссылку на прокси-сервер для доступа. После входа в систему нажмите «Новая база знаний» слева, выберите общую базу знаний по умолчанию, выберите имя, которое легко запомнить, а остальные оставьте по умолчанию.
  2. Набор данных конфигурации : поддерживает импорт текста, PDF, статического веб-сайта, а также может настраивать рукописный контент. Выберите локальную загрузку файлов. Если у вас несколько файлов, вы можете загрузить их несколько раз. После загрузки вы можете протестировать эффекты сегментации и поиска. Благодаря графическому процессору отклик очень быстрый, в отличие от медлительных предыдущих тестов процессора.
  3. Добавьте оболочку приложения в базу знаний . Нажмите Workbench, чтобы создать новое приложение, присвойте ему имя и сохраните другие настройки по умолчанию. Далее напишите слово-подсказку. Я подготовил для всех шаблоны слов-подсказок, исходя из объема базы знаний, используемой в настоящее время в Интернете. Вы можете настроить их по мере необходимости. Введите вопросы, чтобы проверить скорость ответа и эффект ответа. Общее впечатление хорошее.

Метод системной интеграции

  1. Встраивание страниц : FastGPT предоставляет окно без входа в систему, которое можно открыть непосредственно в браузере или встроить в страницу через компонент IFRAME. Скопируйте конкретный код на существующую страницу, и в правом нижнем углу появится плавающий значок. Очень удобно начать разговор всего в один клик.
  2. Интеграция кода . Если вам нужна дополнительная настройка, вы можете использовать интеграцию кода. Сначала создайте новый ключ API для аутентификации взаимодействия с интерфейсом. К сожалению, FastGPT не предоставляет примеры кода или SDK, а только примеры команд Curl. Мы можем преобразовать команду curl в код Java через определенный веб-сайт, скопировать ее в IDA и запустить. Эффект доступа хороший, скорость высокая.

Преимущества облачной платформы интеллектуальных вычислений GPUEZ

Используемая в этот раз облачная платформа интеллектуальных вычислений GPUEZ показала отличные результаты. Он поддерживает оплату по мере использования, гибкий и удобный; большая видеопамять с одной картой, такая как 32 ГБ и 48 ГБ, редко встречается на других платформах, она обеспечивает предустановленную среду, а самодельные изображения можно сохранять и использовать повторно; он имеет богатый набор данных машинного обучения и обучения моделей. Это очень помогает научным исследованиям и исследованиям. Платформа сотрудничает с преподавателями и студентами многих университетов страны и исследователями научно-исследовательских учреждений, поэтому она безопасна, стабильна и гарантирована. Зарегистрируйтесь сейчас, чтобы получить пробную награду в размере 5 юаней и скидку на потребление 20%. Ссылка размещена в разделе комментариев. Друзья, которым нужна аренда вычислительной мощности, возможно, захотят попробовать.

Благодаря описанным выше шагам мы научились использовать FastGPT для создания внутренней системы вопросов и ответов базы знаний для предприятия. Весь процесс прост и понятен. Я надеюсь, что каждый сможет попытаться создать свою собственную систему вопросов и ответов на основе искусственного интеллекта корпоративного уровня. Если у вас есть какие-либо вопросы или идеи, оставьте сообщение в области комментариев, чтобы поделиться им. Увидимся в следующем видео!

Ещё не оценен

Комментарии


Пока комментариев нет

Пожалуйста, войдите, прежде чем комментировать: Вход

Последние записи

Архив

2025
2024
2023
2022
2021
2020

Категории

Теги

Авторы

Ленты

RSS / Atom