vkhosla представляет модель 1-bit Bonsai 8B, занимающую всего 1,15 ГБ памяти

robot
Генерация тезисов в процессе

ME Новости: Сообщение от 1 апреля (UTC+8). В последнее время автор vkhosla рассказал в социальных сетях о модели с 1-битными весами под названием 1-bit Bonsai 8B. Согласно его описанию, занимаемая моделью память составляет всего 1.15 GB, а ее плотность интеллекта (intelligence density), как утверждается, превышает соответствующую модель с полной точностью более чем в 10 раз. Мнение, изложенное в тексте, указывает, что на граничном (edge) оборудовании объем модели уменьшился в 14 раз, скорость выросла в 8 раз, а энергоэффективность увеличилась в 5 раз; при этом, по сравнению с другими моделями, она по-прежнему сохраняет конкурентоспособность. В сообщении также говорится, что эта модель демонстрирует лучшую сжимаемость, более быструю скорость, меньший объем и более высокую энергоэффективность по сравнению с моделью, объявленной Google днем ранее. Оригинальный текст не приводит конкретных бенчмарков для сопоставления производительности модели, данных о релизёре, технических деталей реализации или результатов полного оценивания. (Источник: InFoQ)

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закрепить