自 AIBOX-1684X 上市后，這個小巧的盒子憑借本地化 AI 的能力，獲得市場一致好評?，F(xiàn) Firefly 推出新一款入門級 AI 盒子：AIBOX-1688

該盒子搭載 SOPHON 算能八核 AI 處理器 BM1688，算力高達(dá) 16 TOPS，支持主流大模型的私有化部署，把 AI 的能力私有化，滿足個性化的 AI 部署。

人工智能私有化部署

語言大模型

支持 Transformer 架構(gòu)下超大規(guī)模參數(shù)模型，如 Gemma-2B、Qwen1.5-1.8B、Llama2-7B、ChatGLM3-6B 等大模型的私有化部署。

傳統(tǒng)網(wǎng)絡(luò)架構(gòu)

支持 CNN、RNN、LSTM 等傳統(tǒng)網(wǎng)絡(luò)架構(gòu)。

深度學(xué)習(xí)框架

支持多種深度學(xué)習(xí)框架，包括 TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX 和 Darknet，并支持自定義算子開發(fā)。

Docker 容器化

支持 Docker 容器化管理技術(shù)，可方便進(jìn)行鏡像部署。

16TOPS算力AI處理器BM1688

采用 SOPHON 算能 AI 處理器 BM1688，擁有八核 ARM Cortex-A53，最高主頻 1.6GHz，內(nèi)建神經(jīng)網(wǎng)絡(luò)加速引擎 TPU，擁有 32T@INT4 峰值算力、16T@INT8 峰值算力、4T@FP16 / BF16 算力、0.5T@FP32 算力，支持主流編程框架，可廣泛應(yīng)用于 AI 推理、計(jì)算機(jī)視覺等領(lǐng)域。

多路視頻AI處理性能

最高支持 16 路 H.265 / H.264 1080P 視頻解碼，10 路 H.265 / H.264 1080P 視頻編碼，支持 16 路 1080P 高清視頻全流程處理（解碼+ AI 分析），滿足視頻流人臉檢測、車牌識別、智慧城市等各類 AI 應(yīng)用場景的需求。

強(qiáng)大的網(wǎng)絡(luò)通訊能力

支持雙路 1000Mbps 以太網(wǎng) ，高速穩(wěn)定的網(wǎng)絡(luò)通訊方式，滿足不同應(yīng)用場景的需求。

全金屬外殼，高效散熱

配置工業(yè)級全金屬外殼，鋁合金結(jié)構(gòu)導(dǎo)熱，頂蓋外殼側(cè)面采用條幅格柵設(shè)計(jì)，保證外部空氣流通，高效散熱，保障在高溫運(yùn)行狀態(tài)下的運(yùn)算性能和穩(wěn)定性。

匠心工藝，美觀精致

頂蓋采用多孔六邊形設(shè)計(jì)，簡潔美觀。整機(jī)小巧精致，運(yùn)行穩(wěn)定，滿足工業(yè)級應(yīng)用的需求。

完善的開發(fā)資料

提供配套的源代碼、教程、技術(shù)資料和開發(fā)工具，讓開發(fā)變得更加簡單方便。

廣泛的應(yīng)用場景

AIBOX-1688 可廣泛適用于智能監(jiān)控、AI 教學(xué)、算力服務(wù)、邊緣計(jì)算、大模型私有化部署、數(shù)據(jù)安全和隱私保護(hù)等場景。