連結：https://ggg0919.github.io/cantor/
Cantor是一個多模態鏈式思維(CoT)框架，它透過感知決策架構，將視覺上下文獲取與邏輯推理相結合，解決複雜的視覺推理任務。Cantor首先作為一個決策生成器，整合視覺輸入來分析影象和問題，確保與實際情境更緊密的對齊。此外，Cantor利用大型語言模型(MLLMs)的高階認知功能，作為多面專家，推匯出更高層次的資訊，增強CoT生成過程。Cantor在兩個複雜的視覺推理資料集上進行了廣泛的實驗，證明瞭所提出框架的有效性，無需微調或真實理由，就顯著提高了多模態CoT效能。
需求人群：
- Cantor的目標受眾是教育和研究領網網域的專業人士，特別是那些需要解決複雜視覺推理任務的研究人員和教育工作者。Cantor的多模態鏈式思維框架可以幫助他們更有效地分析影象和問題，生成更準確的決策和答案，從而提高研究和教學質量。
使用場景示例：
- 教育工作者使用Cantor分析科學問題，提高教學內容的準確性
- 研究人員利用Cantor的多模態CoT框架，解決視覺推理領網網域的難題
- 學生透過Cantor學習如何整合視覺資訊和邏輯推理，提高解決問題的能力
產品特色：
- 感知決策架構，有效整合視覺上下文和邏輯推理
- 決策生成階段，考慮並部署問題
- 執行模組化階段，呼叫各種專家模組並提供補充資訊
- 執行綜合階段，彙總補充資訊，透過合理詳細的思考生成最終答案
- 在ScienceQA資料集上，使用GPT-3.5作為基礎LLM，Cantor實作了82.39%的準確率，比CoT提示的GPT-3.5提高了4.08%
- 在MathVista資料集上，Cantor在幾乎所有型別的問題上都大大超過了基線，顯示了正確的決策和模組專家可以激發其精細、深入的視覺理解和組合推理能力
- Cantor在多模態領網網域取得進展，基於GPT-3.5的Cantor在各種問題上顯著超過了基線，甚至超過了知名的MLLMs，如SPHINX和LLaVA-1.5
使用教學：
訪問Cantor的官方網站或GitHub頁面
閱讀Cantor的介紹和背景資訊，瞭解其功能和優勢
根據需要選擇相應的大型語言模型(MLLMs)作為基礎
上傳或選擇需要分析的影象和問題
Cantor將自動進行決策生成和執行模組化
檢視Cantor生成的最終答案和推理過程
根據Cantor的輸出結果，進行進一步的研究或教學活動