「冷蔵庫の中身、あなたは把握できていますか?」食品ロスの約半分は家庭で発生しています。その根本原因は「冷蔵庫の中身の不可視化」にあると考え、写真一枚で食材を管理できるシステムを開発しました。
大学のプロジェクト演習で「家庭から出る燃えるゴミを減らす」というテーマから出発しました。 現状調査として市のデータを分析すると、燃えるゴミの約45%が生ゴミであり、そのうち食品ロスが燃えるゴミ全体の約13%を占めることが判明。 さらに学生116名へのアンケートでは、8割が賞味・消費期限切れで食品を廃棄した経験ありと回答しました。 食品ロスは「意識」で減らせる余地があると判断し、「撮るだけ」で始まる摩擦ゼロの食材管理を目指してシステムを設計・開発しました。

プロダクト設計の前に行った現状調査とニーズ調査。「どこに手を打つべきか」を数字で確かめてから開発を開始しました。
市のデータによると、家庭での食品ロスの最大原因は賞味・消費期限切れです。 この問題の本質は「冷蔵庫の中身を把握できていないこと」にあります。
手動での記録は続かない——これが根本的な課題です。 そこで「撮影するだけで登録が完了する」というゼロ摩擦の入力体験を設計しました。 人は続けられる仕組みさえあれば、自然と行動が変わると考えたからです。
写真撮影 → 自動認識 → 期限登録 → レシピ提案 → 買い物リスト生成という 一気通貫フローにより、ユーザーの認知負荷を最小限に抑えています。
既存の食材管理アプリの最大の問題は『継続できない』こと。その原因は入力に摩擦があるからだと仮説を立て、UI設計の前にワークフロー全体を再設計しました。

※画像はイメージです
食材をどのように認識しているのか、その仕組みや開発中に工夫した点についてまとめました。
YOLOの物体検出モデル(COCO学習済み等)は「人」「車」などを検出するものであり、 「トマト」と「にんじん」を区別するという細粒度認識には対応していません。 既存データセットも存在しなかったため、24クラスの食材について数千枚の冷蔵庫内の画像を自ら収集・手動アノテーションする判断をしました。 結果として、食材の検出精度は94.7%を達成しています。

開発中、肉類の画像認識精度が24.2%と低迷する壁に突き当たりました。 パッケージ越しでは人間でも判別しづらく、純粋な画像判定には限界があったのです。 そこで、無理に見た目で識別するのではなく、「ラベルの文字を読む」という発想の転換を行いました。 Google Cloud Vision API(OCR)でラベル情報を直接読み取るハイブリッド構成に切り替え、実用的な精度と利便性を確保しています。
上のアニメーションは食材認識パイプラインの可視化です。YOLOv8で冷蔵庫内の食材を検出し、そのうち「肉類」と判定されたものについては、Cloud Vision APIのOCRを用いてパッケージのラベルから詳細な種類や賞味期限を自動で判別します。 最終的にこれらの食材情報はデータベースに自動登録されます。
自動認識した食材や作成したレシピのデータをもとに、日々の栄養素の摂取状況を可視化します。カロリーやPFCバランスなどのグラフを通じて、ユーザーの健康管理を摩擦なくサポートします。

冷蔵庫にある食材から最適なレシピを提案します。作り方や必要な具材だけでなく、現在「手持ち」の食材と「不足」している食材が一目で分かるUIを採用。足りない食材はワンタップで買い物リストに追加できます。

技術的な達成だけでなく、社会課題への実装可能性と学習の転用を考えます。
燃えるゴミの13%を占める食品ロスに対してシステム的なアプローチで介入する。 賞味期限の自動管理と使い切りレシピの提案により、「捨てる前に使う」サイクルを日常に組み込む。
現在はパッケージなし環境での精度94.7%。冷蔵庫内の実環境(照明変化・重なり)への対応、 マルチモーダルLLMによる一括認識への置換、スマート家電との連携など、今後の拡張余地が大きい。
「精度が低い」という現象に対して、技術を変えるのではなく問題の性質を見直すことで突破口が開いた。 24.2%→OCR切り替えという経験は、問題定義を諦めずに問い直す姿勢を身につけた転機でした。
実運用には、プライバシーに配慮した画像処理(端末内完結)、食材データベースの継続的更新、 多様な家庭環境(冷蔵庫レイアウト・照明)への対応が必要であり、それ自体が次の研究課題です。