Chetoff1228 / CheckAI_ikanam

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

Merezhkovsky

Merezhkovsky – нейросеть для генерации оригинальных научных статей

Что успели сделать за 30+ часов!

  • 🌏 Исследовали различные архитектуры больших языковых моделей (LLM) для генерации наиболее оригинальных статей.
  • 📕 Протестировали различные подходы для улучшения оригинальности, включая Prompt engineering и добавление контекста при генерации статей.
  • Дообучили нашу модель на других научных статьях с аналогичной структурой для улучшения качества модели.
  • 💾 Исследовали более 500+ научных статей, чтобы найти взаимосвязи для создания лучшего промпта.
  • 🧪 Провели тщательное тестирование и анализ производительности нашей модели.
  • 📈 Улучшили производительность генерации статей на 30% с использованием квантизации параметров модели.
  • 📚 Подготовили подробную документацию и руководство для упрощения использования модели другими исследователями.

Пример работы алгоритма в виде Телеграмм бота

Архитектура

Для выполнения задачи генерации оригинальных научных статей с использованием структуры IMRAD (введение, методика, результаты, обсуждение), мы успешно применили модель Mistral7B. Эта мощная языковая модель была нашим надежным инструментом в создании содержательных и оригинальных научных публикаций.

Модель Mistral7B предоставила нам возможность генерировать текст, который соответствует строгой структуре IMRAD, а также обогатить его научными данными и контекстом. Это позволило нам создавать статьи, которые не только соответствуют академическим стандартам, но и содержат оригинальные исследовательские выводы.

Использование Mistral7B значительно упростило процесс создания научных статей и повысило их качество, что было важно для достижения наших исследовательских целей и ценно для нашей общей продуктивности."

Стэк технологий

Мы использовали различные библиотеки глубокого обучения:

А так же различные предобученные LLM:

  • RuGPT3-Large
  • LLaMA
  • Mistral 7B

About


Languages

Language:Jupyter Notebook 100.0%