新品首发!大模型端侧部署AIBOX 全爱科技 后羿智盒HOUYI-PI-B

新品首发!大模型端侧部署AIBOX 全爱科技 后羿智盒HOUYI-PI-B

新品首发!大模型端侧部署AIBOX 全爱科技 后羿智盒HOUYI-PI-B

全爱科技 后羿智盒HOUYI-PI-B,搭载自研的SoC芯片,采用全大核CPU设计,提供8-12核心A78 2.65G Hz主频,提供高达50TOPS的端侧算力,支持CUDA架构,能够满足深度学习、机器视觉推理等复杂AI任务的需求。

 后羿智盒 超小体积

    全爱科技 后羿智盒HOUYI-PI-B  超小体积100*75*45mm,主板重175g,含外壳全重305g,内存可选16/32GB LPDDR5,EMMC和M.2 nvme存储,可确保流畅运行。提供DP接口、2组USB3.1、2个千兆网络接口、1个M.2 Nvme扩展槽、多个串口。丰富接口满足各种应用场景需求。

后羿智盒 超强性能

    全爱科技后羿智盒HOUYI-PI-B风扇主动散热,提供更强性能、更可靠、更稳定,DP接口提供4K高分辨率显示。操作系统方面,ubuntu22.04操作系统,内置完整的AI开发环境,包括GPU驱动、配套Tookit工具包和Docker容器。 

后羿智盒 小时级迁移 易用性强

支持CUDA架构

预装Python 3.10、VS Code、Jupyter Notebook等主流开发工具,为开发者提供开箱即用的AI开发环境,易部署、易开发、具备超强的易用性。

主要参数

后羿智盒

HOUYI-PI-B

后羿智盒HOUYI-1000-B

NV NX

CPU性能

8*A78/12*A78

8*A78/12*A78

8*A78

大模型推理

0T,支持7B/13B/33B 

50T,支持7B/13B/33B

50T

内存

32GB/16GB LPDDR5

32GB/16GB LPDDR5

 

内存带宽

100GB+(支持ECC)

100GB+(支持ECC)

100GB+

编码能力

2*4K60

1*4K60

解码能力

2*8K30

1*8K30

ISP能力

Y

 

PCIE

 

PCIE5.0X8标准插槽

PCIE4.0

M.2 nvme

M.2 nvme

 

千兆网口

2

2

1

USB

2 USB3.1

3 USB3.1

 

支持Camera

16

 

4

显示

1*DP/1*eDP 1.4b

1 DP+1 eDP 1.4b

1*DP1*eDP+1*HDMI

体积

100*75*45mm

209*120*112mm

 

重量

305g(整机)170g 主板

1300g(整机)

 

支持主流大模型

 支持主流的大语言模型(如DeepSeek、Qwen、Llama)和机器视觉模型(如YOLO、RESNET),并能够流畅运行高达32B参数量的语言模型。

支持端边云协同

 支持端云一体架构,开发者可以在本地进行复杂计算,也可以通过云端调用更强大的算力资源。

 全爱科技GPU大模型端侧解决方案必将成为智能化重要力量,为智能时代的到来提供坚实的技术支撑。

 全爱科技京东旗舰店 quanai.jd.com 

 同期发布:全爱科技大模型GPU开发板HOUYI-Pi,欢迎您的评测!

订阅快讯

通过快讯订阅,您将及时收到我们的信息更新通知。