一度の開発で、あらゆるチップを高速・高効率に稼働

抽象統一 · ネイティブ SDK · オペレータ融合 · メモリ再利用 · 命令パイプライン · 適応型量子化 —— 6つの低レイヤー技術が支える

計算性能、エネルギー効率、精度、遅延、同時処理、長期安定性を同時に引き上げ、同じハードウェアでより大きなモデル、より多くのストリーム、より低い消費電力を実現。抽象統一により、アプリは一度の記述で複数チップに適応し、データ、転送、運用、可視化、イテレーションも同時に高速化します。

コア次元

チップ上層の呼び出し方式、ハード/ソフト適応、展開接続、データパイプライン効率は、AI ボックス実装の基盤能力です

当社 AI ボックス · コア優位性

一度開発、多端末適応

統一ハードウェア加速インターフェースを構築し、アプリは一度の記述で異なるチップ能力に自己適応。多チップの重複適応を根本から解消します。

低レイヤー極限高速化

チップネイティブ SDK を深くカスタマイズし、C/C++ で開発。非効率な汎用ライブラリとパイプラインを排除。

全方位深度最適化

オペレータ融合、メモリ再利用、命令パイプラインの三重最適化に加え、データパイプラインを極限まで再構築し、チップ算力を最大限に引き出します。

ゼロ依存の軽量展開

第三者ライブラリへの依存をゼロにし、プログラム実行環境と依存関係を含めてもサイズは1MB未満。リソース制約のある製品へ直接展開できます。

業界典型 AI ボックス · 痛点

適応コストが高い

統一ハードウェアインターフェースがなく、チップごとに個別開発が必要で、多チップシーンの再利用率は極めて低い。

実行効率が低い

OpenCV 等の第三者汎用ライブラリで業務処理を行い、高級言語 Python と非効率な ROS2 データパイプラインを併用するため、リソース浪費が大きい。

低レイヤー最適化なし

チップメーカー公版 SDK のデフォルトロジックのみで、オペレータ・メモリ・命令の深度最適化を行わない。

依存が肥大化し展開困難

Python、OpenCV、その他の第三者ライブラリに依存し、実行環境と依存関係のサイズが数百MBから数GBに膨らむため、リソース制約のある製品には展開できません。

どのように実現するか

Conv、BN、ReLU オペレータ融合フロー図

オペレータレベル融合

· Conv、BN、ReLU 等の連続オペレータを統合実行。 · 中間結果の反復読み書きを減らし、メモリアクセスを削減。 · 複数操作を単一 NPU 命令に変換し、推論効率を向上。

メモリ再利用戦略フローチャート

メモリ再利用戦略

· Tensor ライフサイクルに基づきキャッシュを統一管理。 · 解放済みメモリブロックを後続 Tensor が再利用可能。 · 重複メモリ申請を減らし、オフチップメモリ占有を低減。

チップ命令パイプライン並列アーキテクチャ図

命令パイプライン並列

· CPU 前処理、NPU 推論、CPU 後処理をパイプライン段階に分割。 · 複数フレームタスクをオーバーラップ実行し、待機時間を削減。 · 全体スループットを向上し、データ転送遅延感を低減。

適応型量子化モデル構造図

適応型量子化

· 各ネットワーク層の活性化分布に応じて量子化精度を選択。 · 精度敏感層は INT8、低敏感層は INT4 を使用。 · 精度を維持しつつ推論速度向上と計算量削減を実現。

SDK ハードウェア加速能力パネル

SDK レベルハードウェア加速

· C/C++ 低レイヤー言語でインターフェース効率を向上; · チップネイティブ SDK を直接使用し、OpenCV 等と比べ最大のハードウェア加速効果を獲得。

抽象中間層統一アーキテクチャ図

抽象中間層の統一

· 各社チップ SDK インターフェースを抽象統一し、チップ差異が上層アルゴリズムに与える影響を隔離; · クロスチップで同一アルゴリズム・アプリをサポートし、一度記述で複数プラットフォームで実行。

効率と効果の大幅向上

より大きなモデル

同じハードウェアでより大きなモデル

Lite シリーズは従来 YOLOv8n のみ。最適化後は YOLOv8s を FPS 低下なく実行可能

より多くの路数

より多くの路数をサポート

同等算力でより多くのビデオチャネルを処理し、エッジ側同時処理能力を向上

より低い消費電力

より低い消費電力

モデル構造とチップ特性に合わせた電力スケジューリングで、長期運用のエネルギー消費を低減

より高い性能

より高い性能

メモリ・オペレータ・データパイプラインを最適化し、単位リソースあたりの推論効率を向上

より多くのチップ

より多くのチップをサポート

統一低レイヤー適応能力で、より多くのチッププラットフォームとハード形態をカバー

テスト環境

ハードウェア:Pro

モデル:YOLOv8n

解像度:1080p

公版Xeroptix25fps10fps
Lite 上で YOLOv8n を実行した Xeroptix と公版のフレームレート比較棒グラフ(公版 10fps、Xeroptix 25fps)