程序=数据结构+数据+函数
我希望为deepx的ai程序,设计抽象的程序空间。模糊cpu、gpu、内存、显存的传统分布式的空间计算边界,重新设计统一架构的apu(软件解释执行+扩展tensor加速的AI 处理器)、统一ai内存空间AIspace。
AIspace内存系统:
1.我打算设计一套内存空间AIspace,以存放数据结构和数据。基于kv系统索引存储,kv系统也可以逻辑上实现一维的逻辑内存空间。
2.AIspace需要可以存储,还需要消息通知机制(可能基于redis,或其它)。
3.另外AIspace,对一些基础的串类型,只存放其元数据,而串的数组则存放在其它拓展位置,如内存、显存、甚至文件系统。
4.程序线程的指令,在AIspace上,也表现为堆栈划分。
- APU。ai解释执行器。
访问(读写)AIspace,依次执行AIspace对应位置的指令。(对应deepx的ir)
3.apu扩展加速计算系统
对一些tensor计算指令,交由专门的计算执行器负责tensor的计算任务,完成计算后会通过AIspace的消息通知APU,由具体的simd、cuda加速程序实现。(deepx实际上已经实现了)