ziwang-com / AGM

AGM阿格姆:AI基因图谱模型,从token-weight权重微粒角度,探索AI模型,GPT\LLM大模型的内在运作机制。

Home Page:http://www.m-f.vip

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

TensorLy-Torch是一个用于深度张量网络的Python库

ziwang-com opened this issue · comments

ai模型的基础单位:张量tensor,位于金字塔塔尖,属于最基础的单位,与我们agm阿格姆项目的tokne类似,但token隐含了id概念

https://github.com/tensorly/torch
TensorLy-Torch是一个用于深度张量网络的Python库,它建立在TensorLyPyTorch之上。它允许在深度学习环境中轻松利用张量方法,并随附所有电池。

image

网站: http://tensorly.org/torch/
源代码:https://github.com/tensorly/torch
使用 TensorLy-Torch,您可以轻松:

张量分解:分解、操作和初始化张量分解可能很棘手。我们通过方便、统一的 API 处理这一切。
利用数据中的结构:使用张量层,您可以通过张量回归层、因式分解卷积等轻松利用数据中的结构
内置张量层:您所要做的就是导入张量火炬,并将我们提供的层直接包含在您的 PyTorch 模型中!
张量钩子:您可以使用我们内置的张量钩轻松增强您的架构。使用张量 Dropout 增强您的网络,并使用 L1 正则化自动选择端到端排名!
所有可用的方法:我们一直在添加更多方法,以便于比较各种基于深度张量的方法的性能!
深度张量学习
张量方法将矩阵代数运算推广到高阶。深度神经网络通常在高阶张量之间进行映射。事实上,正是深度卷积神经网络保存和利用局部结构的能力,以及大型数据集和高效的硬件,使当前的性能水平成为可能。张量方法允许进一步利用和保留该结构,用于单个层或整个网络。