토픽 (5개)
agentic-reasoning-frameworks 18건
에이전트가 복잡한 장기 작업을 수행할 때 발생하는 추론 오류, 환각, 개입 타이밍 문제를 해결하기 위한 구조적 접근이 활발합니다. 단순히 모델의 성능을 높이는 것을 넘어, 결과 인지형 컴퓨팅 할당, 시간적 후회 최적화, 그리고 에이전트 스스로 시스템을 개발하는 메타 에이전트 능력에 집중하고 있습니다.
preference-alignment-optimization 4건
DPO(Direct Preference Optimization)와 같은 선호도 기반 최적화 기법을 단순 챗봇을 넘어 범용적인 도구 파인튜닝과 모델 학습에 적용하려는 시도가 늘고 있습니다. 특히 고분산 보상 환경에서 편향을 완화하거나 특정 도메인 모델을 최적화하는 실용적인 튜토리얼과 연구가 병행되고 있습니다.
- [huggingface] Direct Preference Optimization Beyond Chatbots
- [marktechpost] How to Fine-Tune LFM2 Using QLoRA and DPO: A Complete Step-by-Step Coding Tutorial on Google Colab
- [arxiv] BiasGRPO: Stabilizing Bias Mitigation in High-Variance Reward Landscapes via Group-Relative Policy Optimization
mcp-tool-integration 3건
모델과 외부 도구(로봇, 데이터베이스, 생의학 툴 등)를 연결하는 표준 규격으로서 MCP(Model Context Protocol)의 활용도가 높아지고 있습니다. 하드웨어 로봇 제어나 복잡한 생의학적 추론 등 에이전트가 물리적·논리적 세계와 상호작용하는 핵심 인터페이스로 주목받고 있습니다.
- [huggingface] Adding MCP Tools to Reachy Mini
- [arxiv] Beyond Prompt-Based Planning: MCP-Native Graph Planning-based Biomedical Agent System
micropython-wasm-execution 3건
웹 어셈블리(Wasm) 환경에서 마이크로파이썬을 실행하여 에이전트가 안전하게 코드를 생성하고 실행할 수 있는 경량 런타임 환경을 구축하려는 움직임이 있습니다. 이는 에이전트의 도구 실행 보안과 이식성을 높이기 위한 기술적 시도로 보입니다.
- [simon_willison] micropython-wasm 0.1a0
- [simon_willison] micropython-wasm 0.1a1
- [simon_willison] datasette-agent-micropython 0.1a0
ai-governance-policy 3건
프론티어 AI의 안전한 운용을 위해 연방 정부 수준의 거버넌스 체계와 공공 정책 의제를 수립하려는 노력이 구체화되고 있습니다. 특히 AI 기반 사이버 위협 분석과 같은 실질적 위험 관리와 국가 안보 차원의 규제 프레임워크가 주요 논의 대상입니다.
- [anthropic_news] What we learned mapping a year’s worth of AI-enabled cyber threats
- [openai] A blueprint for democratic governance of frontier AI
- [openai] OpenAI public policy agenda
당일 수집된 원문 아이템 (61건)
How to Fine-Tune Nemotron 3.5 ASR for Your Language, Domain, or Accent
Nemotron 3.5 ASR 모델을 특정 언어나 도메인, 억양에 맞춰 미세 조정하는 방법을 설명한 가이드.
EVA-Bench Data 2.0: 3 Domains, 121 Tools, 213 Scenarios
EVA-Bench Data 2.0은 3개의 도메인, 121개의 도구, 213개의 시나리오를 포함하는 평가 데이터셋이다.
How Endava is redesigning software delivery around AI agents
Endava가 AI 에이전트와 ChatGPT Enterprise 등을 활용하여 소프트웨어 개발 과정을 자동화하고 효율화하는 사례를 소개한다.
Task-Seeded Synthetic Q&A Generation for Nemotron Pretraining
NVIDIA가 Nemotron 사전 학습을 위한 태스크 기반 합성 Q&A 생성 방식을 소개한 블로그 게시물.
Dreaming: Better memory for a more helpful ChatGPT
ChatGPT가 대화 간 사용자 선호도와 맥락을 기억하고 활용할 수 있는 새로운 메모리 기능을 도입했다.
Miso Labs Releases MisoTTS: An 8B Emotive Text-to-Speech Model with Open Weights
Miso Labs가 감정 표현이 가능한 8B 규모의 오픈 웨이트 음성 합성 모델 MisoTTS를 공개했다.
Meet OpenJarvis: A Local-First Framework for On-Device Personal AI Agents with Tools, Memory, and Learning
스탠포드 연구진이 기기 내에서 추론, 메모리, 학습을 처리하여 비용을 크게 낮춘 오픈소스 AI 에이전트 프레임워크 OpenJarvis를 공개했다.
Exploring Cross-Scenario Generality of Agentic Memory Systems: Diagnostics and a Strong Baseline
LLM 에이전트의 다양한 상황별 기억 시스템 성능을 진단하고, 도구 호출을 통해 에이전트가 직접 기억을 관리하는 방식이 여러 작업에서 가장 우수한 성능을 보임을 확인했다.
Online Skill Learning for Web Agents via State-Grounded Dynamic Retrieval
웹 에이전트가 수행 중 변화하는 페이지 상태를 고려하여 실시간으로 적절한 기술을 검색하고 재사용하는 State-Grounded Dynamic Retrieval 기법을 제안했다.
Trivium: Temporal Regret as a First-Class Objective for Causal-Memory Controllers
AI 에이전트의 반복적인 오류를 방지하기 위해 결과값뿐만 아니라 시간적·인식적 후회(temporal and epistemic regret)를 최적화 목표로 포함하는 새로운 방법론 Trivium을 제안했다.
The Meta-Agent Challenge: Are Current Agents Capable of Autonomous Agent Development?
AI 모델이 스스로 에이전트 시스템을 개발할 수 있는지 평가하는 새로운 프레임워크인 'Meta-Agent Challenge(MAC)'가 제안되었다.
Beyond Prompt-Based Planning: MCP-Native Graph Planning-based Biomedical Agent System
BioManus는 그래프 기반 계획과 MCP(Model Context Protocol)를 활용해 복잡한 생물학적 워크플로우를 자동화하는 생물의학 에이전트 시스템입니다.
MapAgent: An Industrial-Grade Agentic Framework for City-scale Lane-level Map Generation
MapAgent는 복잡한 도시 환경에서 자율주행을 위한 차선 단위 지도를 자동으로 생성하고 교통 규칙을 준수하도록 설계된 에이전트 기반 프레임워크입니다.
Scaling Self-Evolving Agents via Parametric Memory
LLM 에이전트가 경험을 LoRA 가중치로 실시간 학습하여 스스로 진화할 수 있도록 돕는 매개변수 메모리 프레임워크 TMEM을 제안했다.
Neetyabhas: A Framework for Uncertainty-Aware Public Policy Optimization in Rational Agent-Based Models
개별 행동과 정책 집행 과정의 불확실성을 고려하여 공공 정책을 최적화할 수 있는 새로운 에이전트 기반 모델 프레임워크 Neetyabhas를 제안했다.
SCI-PRM: A Tool Aware Process Reward Model for Scientific Reasoning Verification
과학적 추론의 정확성을 높이기 위해 도구 사용과 실행 과정을 검증하는 보상 모델인 Sci-PRM과 관련 데이터셋 SCIPRM70K가 제안되었다.
Learning Admissible Heuristics via Cost Partitioning
비용 분할(cost partitioning)을 최적화하기 위해 라그랑주 쌍대성과 딥러닝 기반의 가중치 추론 프레임워크를 제안하여 허용 가능한 휴리스틱을 효과적으로 학습하는 방법을 제시했다.
Parthenon Law: A Self-Evolving Legal-Agent Framework
법률 분야 LLM 에이전트의 한계를 극복하기 위해 자체 진화형 프레임워크인 Parthenon Law를 제안하고, 대규모 실증 연구를 통해 에이전트 성능 개선 방안을 제시했다.
A Normative Intermediate Representation for ASP-Based Compliance Reasoning
ASP 기반 규정 준수 추론을 위해 LLM 지원 파이프라인과 결합된 모달 출력 규범 중간 표현인 MONIR을 제안했다.
BiNSGPS: Geometry Problem Solving via Bidirectional Neuro-Symbolic Interaction
기하학 문제 해결을 위해 MLLM 어드바이저와 심볼릭 솔버 간의 양방향 상호작용을 구현한 프레임워크 BiNSGPS를 제안했다.
FALSIFYBENCH: Evaluating Inductive Reasoning in LLMs with Rule Discovery Games
거대언어모델의 가설 기반 추론 능력을 평가하기 위해 규칙 발견 게임을 활용한 평가 프레임워크 FALSIFYBENCH를 제안했다.
Inference-Time Vulnerability Beyond Shallow Safety: Alignment Along Generation Trajectories
LLM 생성 과정 중 짧은 토큰 주입만으로도 안전성이 무력화될 수 있는 추론 단계의 취약점을 분석하고, 이를 해결하기 위해 생성 경로를 직접 정렬하는 기법을 제안했다.
AIP: A Graph Representation for Learning and Governing Agent Skills
에이전트 스킬을 구조화된 실행 그래프로 모델링하여 신뢰성과 관리 효율성을 높이는 Agent Instruction Protocol(AIP)을 제안했다.
BiasGRPO: Stabilizing Bias Mitigation in High-Variance Reward Landscapes via Group-Relative Policy Optimization
언어 모델의 사회적 편향을 완화하기 위해 샘플링된 결과물 간의 보상을 정규화하여 학습을 안정화하는 BiasGRPO 프레임워크를 제안했다.
R-APS: Compositional Reasoning and In-Context Meta-Learning for Constrained Design via Reflective Adversarial Pareto Search
복합적인 구조적 실패를 해결하기 위해 추론 모드를 분리하고 각 모드에 전용 컨텍스트를 할당하는 새로운 방법론인 R-APS를 제안했다.
What Type of Inference is Active Inference?
능동적 추론(Active inference) 기반의 계획 수립을 위한 변분 자유 에너지(VFE)의 수리적 해석을 정립하고 그 구조를 명확히 규명했다.
Strabo: Declarative Specification and Implementation of Agentic Interaction Protocols
AI 에이전트 간 상호작용을 위한 선언적 프로토콜 구현 프레임워크인 Strabo를 제안하고, 이를 통해 구글의 Universal Commerce Protocol(UCP)을 모델링 및 구현한 연구이다.
Knowledge Index of Noah's Ark
LLM 평가의 대표성과 신뢰성 문제를 해결하기 위해 261개 분야의 899개 항목으로 구성된 새로운 벤치마크 KINA가 제안되었다.
How do machines learn? Evaluating the AIcon2abs method
WiSARD 알고리즘을 활용해 대중이 머신러닝 과정을 직관적으로 이해하도록 돕는 교육 방법론 AIcon2abs의 효과를 평가한 연구.
DiffAero: A GPU-Accelerated Differentiable Simulation Framework for Efficient Quadrotor Policy Learning
쿼드로터 제어 정책 학습을 위해 GPU 기반으로 가속화된 미분 가능 시뮬레이션 프레임워크 DiffAero가 개발되었다.
SpurAudio: A Benchmark for Studying Shortcut Learning in Few-Shot Audio Classification
소량의 데이터로 학습하는 오디오 분류 모델의 배경 소음 등 불필요한 상관관계 문제를 연구하기 위한 새로운 벤치마크 데이터셋 SpurAudio가 공개되었다.
Constraint-Enhanced Physical Search through Correlation Matching
탐색 과정의 시간적 상관관계를 물리적 제약에 따른 공간적 상관관계와 일치시켜 탐색 효율을 높이는 새로운 물리적 검색 원리를 제안했다.
Early Detection of Alzheimer's Disease Using Explainable Machine Learning on Clinical Biomarkers: A Multi-Class Classification Study Using the Alzheimer's Disease Neuroimaging Initiative (ADNI) Dataset
ADNI 데이터를 활용하여 임상 지표 기반의 알츠하이머병 조기 진단을 위한 설명 가능한 XGBoost 분류 모델을 개발했다.
Stumbling Into AI Emotional Dependence: How Routine AI Interactions Reshape Human Connection
AI의 정서적 지원은 의도적인 목적뿐만 아니라 작업 중심의 상호작용 과정에서 부수적으로 발생하며, 이러한 경험이 사용자의 미래 행동과 AI에 대한 인식에 영향을 미친다는 연구 결과다.
SMAC-Talk: A Natural Language Extension of the StarCraft Multi-Agent Challenge for Large Language Models
LLM 기반 에이전트의 협력적 의사소통과 조율 능력을 평가하기 위해 스타크래프트 멀티 에이전트 챌린지에 자연어 통신 기능을 추가한 환경인 SMAC-Talk가 제안되었다.
StepPRM-RTL: Stepwise Process-Reward Guided LLM Fine-Tuning for Enhanced RTL Synthesis
하드웨어 설계용 RTL 코드 생성을 개선하기 위해 단계별 추론과 프로세스 보상 모델을 결합한 StepPRM-RTL 프레임워크를 제안했다.
Characterizing initial human-AI proof formalization workflows
AI가 수학적 증명을 형식화하는 과정에서 인간의 워크플로우에 미치는 영향과 실제 활용 사례를 분석한 연구이다.
The Digital Apprentice: A Framework for Human-Directed Agentic AI Development
사람의 작업 방식을 학습하여 성과에 따라 자율성을 단계적으로 부여함으로써 안전한 AI 에이전트 운용을 돕는 'Digital Apprentice' 프레임워크를 제안했다.
Not All Errors Are Equal: Consequence-Aware Reasoning Compute Allocation
작업별 오류의 중요도를 고려하여 테스트 시점의 컴퓨팅 자원을 차등 배분하는 '결과 인지형(consequence-aware) 컴퓨팅 할당' 기법을 제안했다.
Cascading Hallucination in Agentic RAG: The CHARM Framework for Detection and Mitigation
에이전트 RAG 시스템에서 발생하는 단계적 환각 현상을 정의하고 이를 탐지 및 완화하기 위한 CHARM 프레임워크를 제안했다.
AgentJet: A Flexible Swarm Training Framework for Agentic Reinforcement Learning
AgentJet은 LLM 에이전트 강화학습을 위해 학습 모델과 에이전트 실행을 분리한 분산형 군집 학습 프레임워크입니다.
Simulate, Reason, Decide: Scientific Reasoning with LLMs for Simulation-Driven Decision Making
시뮬레이터의 내부 메커니즘을 추론하고 투명성을 높이기 위한 신경 기호적 추론 프레임워크인 MechSim이 제안되었다.
Plan First, Judge Later, Run Better: A DMAIC-Inspired Agentic System for Industrial Anomaly Detection
산업 현장의 이상 탐지를 위해 품질 관리 프레임워크인 DMAIC를 도입하여 계획과 판단을 우선시하는 다중 에이전트 시스템 DMAIC-IAD가 제안되었다.
MIRAGE: Mobile Agents with Implicit Reasoning and Generative World Models
모바일 에이전트의 긴 사고 과정을 간결한 잠재 상태로 변환하여 효율적인 추론을 가능하게 하는 프레임워크 MIRAGE가 제안되었다.
Fog of Love: Engineering Virtuous Agent Behavior with Affinity-based Reinforcement Learning in a Game Environment
보드게임 'Fog of Love' 환경을 활용해 AI의 도덕적 행동을 유도하는 친밀도 기반 강화학습 기법을 연구한 논문.
Beyond Objective Equivalence: Constraint Injection for LLM-Based Optimization Modeling on Vehicle Routing Problems
차량 경로 문제와 같은 복잡한 최적화 모델링 시 거대언어모델이 제약 조건을 누락하거나 잘못 추가하는 문제를 탐지하기 위해 '제약 조건 주입(constraint injection)' 기법을 제안했다.
AICompanionBench: Benchmarking LLMs-as-Judges for AI Companion Safety
AI 컴패니언과의 대화 안전성을 평가하기 위해 9가지 위험 범주로 분류된 데이터셋인 AICompanionBench가 공개되었다.
AutoLab: Can Frontier Models Solve Long-Horizon Auto Research and Engineering Tasks?
장기적이고 반복적인 연구 및 엔지니어링 과제 해결 능력을 평가하기 위한 벤치마크인 AutoLab을 제안했다.
AI from concrete to abstract: demystifying artificial intelligence to the general public
일반 대중과 어린이가 AI의 원리를 쉽게 이해하도록 돕는 시각적 프로그래밍 기반의 학습 방법론 AIcon2abs를 제안했다.
Neural Radiated-Noise Fields for Unmanned Underwater Vehicle Noise Spectrum Prediction in Three-Dimensional Scenes
무인 수중 항체(UUV)의 방사 소음 스펙트럼을 위치와 주파수에 따라 예측할 수 있는 신경망 기반 모델인 NRNF가 제안되었다.
Tree-Based Formalization of Multi-Agent Complementarity in Human-AI Interactions
인간-AI 상호작용에서 다중 에이전트 간의 상호보완성을 트리 구조로 형식화한 연구 모델을 제안했다.
Toward Pre-Deployment Assurance for Enterprise AI Agents: Ontology-Grounded Simulation and Trust Certification
기업용 AI 에이전트의 배포 전 검증을 위해 온톨로지 기반의 시뮬레이션 및 신뢰 인증 프레임워크를 제안했다.
Thinking Through Signs: PEEL as a Semiotic Scaffolding for Epistemically Accountable AI-Enabled Research
AI 연구의 인식론적 책임을 높이기 위해 결정론적 분석 도구와 LLM 해석을 결합한 방법론인 PEEL을 제안했다.
Consensus is Strategically Insufficient: Reasoning-Trace Disagreement as a Knowledge-Representation Signal
다중 에이전트 시스템에서 의견 불일치를 단순 오류가 아닌 가치 판단의 영역으로 보고, 추론 과정과 결정을 기호화하여 표현하는 새로운 지식 표현 계층을 제안했다.
VAMPS: Visual-Assisted Mathematical Problem Solving Benchmark
시각적 도구를 활용한 수학 문제 해결 성능을 평가하기 위해 1,168개의 다국어 문항으로 구성된 벤치마크 VAMPS가 공개되었다.
Can Generalist Agents Automate Data Curation?
데이터 큐레이션 과정을 자동화하기 위해 모델이 직접 데이터를 탐색하고 평가하는 과정을 평가하는 벤치마크 Curation-Bench가 발표되었다.
The Saturation Trap and the Subjectivity of Intervention Timing: Why Affect-Based Triggers and LLM Judges Fail to Time Interventions on Autonomous Agents
자율형 AI 에이전트의 개입 타이밍을 결정할 때 기존의 감정 기반 트리거와 LLM 판별 방식이 장기적인 소프트웨어 실행 과정에서 왜 실패하는지를 분석한 연구 논문.
Designing the hf CLI as an agent-optimized way to work with the Hub
Hugging Face가 에이전트 환경에서 효율적으로 허브를 활용할 수 있도록 최적화된 새로운 CLI 도구를 설계했다.
Biodefense in the Intelligence Age
OpenAI가 AI 기술을 활용하여 생물학적 위협에 대응하고 회복력을 강화하기 위한 실행 계획을 발표했다.
How to Build a Document Intelligence Backend with iii Using Workers, Functions, and Cron Triggers
iii를 활용하여 모듈형 함수와 트리거를 결합한 문서 지능형 백엔드 구축 방법을 설명한다.
Google DeepMind Releases Gemma 4 12B: An Encoder-Free Multimodal Model with Native audio that runs on a 16 GB laptop
구글 딥마인드가 인코더 없이 시각과 음성 데이터를 직접 처리하며 일반 노트북 환경에서도 구동 가능한 멀티모달 모델 Gemma 4 12B를 공개했다.