OlaGPT: Empowering LLMs With Human-like Problem-Solving Abilities, Yuanzhen Xie+, N/A, arXiv'23

[AkihikoWatanabe]

URL

• https://arxiv.org/abs//2305.16334

Affiliations

• Yuanzhen Xie, N/A
• Tao Xie, N/A
• Mingxiong Lin, N/A
• WenTao Wei, N/A
• Chenglin Li, N/A
• Beibei Kong, N/A
• Lei Chen, N/A
• Chengxiang Zhuo, N/A
• Bo Hu, N/A
• Zang Li, N/A

Abstract

• In most current research, large language models (LLMs) are able to performreasoning tasks by generating chains of thought through the guidance ofspecific prompts. However, there still exists a significant discrepancy betweentheir capability in solving complex reasoning problems and that of humans. Atpresent, most approaches focus on chains of thought (COT) and tool use, withoutconsidering the adoption and application of human cognitive frameworks. It iswell-known that when confronting complex reasoning challenges, humans typicallyemploy various cognitive abilities, and necessitate interaction with allaspects of tools, knowledge, and the external environment information toaccomplish intricate tasks. This paper introduces a novel intelligentframework, referred to as OlaGPT. OlaGPT carefully studied a cognitivearchitecture framework, and propose to simulate certain aspects of humancognition. The framework involves approximating different cognitive modules,including attention, memory, reasoning, learning, and corresponding schedulingand decision-making mechanisms. Inspired by the active learning mechanism ofhuman beings, it proposes a learning unit to record previous mistakes andexpert opinions, and dynamically refer to them to strengthen their ability tosolve similar problems. The paper also outlines common effective reasoningframeworks for human problem-solving and designs Chain-of-Thought (COT)templates accordingly. A comprehensive decision-making mechanism is alsoproposed to maximize model accuracy. The efficacy of OlaGPT has beenstringently evaluated on multiple reasoning datasets, and the experimentaloutcomes reveal that OlaGPT surpasses state-of-the-art benchmarks,demonstrating its superior performance. Our implementation of OlaGPT isavailable on GitHub: \url{https://github.com/oladata-team/OlaGPT}.

Translation (by gpt-3.5-turbo)

• 現在の多くの研究では、大規模言語モデル（LLMs）は特定のプロンプトの指導によって思考の連鎖を生成することで推論タスクを実行できます。しかし、複雑な推論問題を解決する能力において、彼らと人間の間にはまだ著しい差異が存在します。現在のアプローチの多くは、ツールの使用と思考の連鎖（COT）に焦点を当てており、人間の認知フレームワークの採用と適用を考慮していません。複雑な推論課題に直面する際、人間は通常、様々な認知能力を使用し、複雑なタスクを達成するためにツール、知識、外部環境情報のすべての側面との相互作用が必要です。本論文では、OlaGPTと呼ばれる新しい知的フレームワークを紹介します。OlaGPTは認知アーキテクチャフレームワークを綿密に研究し、人間の認知の一部をシミュレートすることを提案しています。このフレームワークには、注意、記憶、推論、学習などの異なる認知モジュールの近似、および対応するスケジューリングと意思決定メカニズムが含まれます。人間の能動的学習メカニズムに着想を得て、類似の問題を解決する能力を強化するために、以前の誤りや専門家の意見を動的に参照する学習ユニットを提案しています。本論文では、人間の問題解決に対する一般的な効果的な推論フレームワークを概説し、Chain-of-Thought（COT）テンプレートを設計しています。また、モデルの精度を最大化するための包括的な意思決定メカニズムも提案されています。OlaGPTの有効性は、複数の推論データセットで厳密に評価され、実験結果はOlaGPTが最先端のベンチマークを上回り、優れた性能を示していることを示しています。OlaGPTの実装はGitHubで利用可能です：\url{https://github.com/oladata-team/OlaGPT}。

Summary (by gpt-3.5-turbo)

• 本論文では、人間の認知フレームワークを模倣することで、複雑な推論問題を解決するための新しい知的フレームワークであるOlaGPTを提案しています。OlaGPTは、注意、記憶、推論、学習などの異なる認知モジュールを含み、以前の誤りや専門家の意見を動的に参照する学習ユニットを提供しています。また、Chain-of-Thought（COT）テンプレートと包括的な意思決定メカニズムも提案されています。OlaGPTは、複数の推論データセットで厳密に評価され、最先端のベンチマークを上回る優れた性能を示しています。OlaGPTの実装はGitHubで利用可能です。