TinyML

TinyMLとは、数キロバイト〜数メガバイトのメモリしか持たないマイクロコントローラー（MCU）等の超低消費電力デバイス上で機械学習モデルを実行する技術分野です。Google、ARM、SparkFunらが推進し、Raspberry Pi Pico・Arduino Nano・STM32等のデバイスに物体認識・音声認識・異常検知等のAI機能を実装できるようになりました。

技術的な特徴として、TinyMLデバイスは(1)メモリ：数KB〜数MB（スマートフォンの数千分の一）、(2)処理能力：MHz〜数百MHzのCPU（スマートフォンの数百分の一）、(3)消費電力：数mW〜数十mW（数ヶ月〜数年間バッテリー駆動が可能）、(4)コスト：数十円〜数百円の超低コストデバイス、という制約の中でMLを動作させます。このため、モデルの極限まで小型化（量子化・プルーニング・知識蒸留）が必須です。

主要なフレームワーク・ツールとして、(1)TensorFlow Lite for Microcontrollers：TFLiteをさらに軽量化したMCU向けフレームワーク。C++で実装されOSなしで動作、(2)Edge Impulse：TinyMLアプリケーションの開発・学習・デプロイをクラウドベースで統合したプラットフォーム。コーディング不要でデバイス学習が可能、(3)ONNX Runtime Mobile：クロスプラットフォームの軽量推論エンジン、(4)microTVM（Apache TVM）：MCU向けのディープラーニングコンパイラがあります。

主要なユースケースとして、(1)農業センサー：土壌・気象データをリアルタイム分析し、灌漑・施肥を自動最適化。クラウド通信コスト不要で農村部でも運用可能、(2)医療ウェアラブル：心電図・血中酸素・転倒検知をデバイス上でリアルタイム分析、(3)工場IoT：機械の振動・温度データから異常をエッジ検知しダウンタイムを予防、(4)スマートホーム：常時接続不要の超省電力デバイスで人感・音声を検知があります。Pete Wardenの著書「TinyML」（2019年）が分野の啓発に大きく貢献しました。