토픽 (5개)
multi-agent-orchestration 6건
다중 에이전트 시스템의 복잡성을 해결하기 위해 계층적 제어, 정책 준수, 그리고 협업의 효율성을 정량적으로 분석하는 연구가 활발합니다. 특히 무조건적인 협업이 항상 성능 향상으로 이어지지 않는다는 엔트로피 기반의 회의론과, 할루시네이션을 줄이기 위한 감사 가능한 구조 설계에 집중하고 있습니다.
agentic-skill-evolution 4건
에이전트가 외부의 명시적 지도 없이 스스로 기술(Skill)을 구축하고 워크플로우를 최적화하는 '자율적 성장'에 주목하고 있습니다. 선언적 방식이나 의미론적 분해를 통해 에이전트의 작업 수행 범위를 확장하려는 시도가 이어지고 있습니다.
agentic-safety-verification 4건
에이전트의 행동을 사후에 교정하는 것이 아니라, 설계 단계부터 형식 검증(Formal Verification)하거나 레드팀 워크플로우를 구축하여 안전성을 확보하려는 움직임이 뚜렷합니다. 특히 공격자가 에이전트의 안전 평가를 우회하는 전략을 학습할 수 있다는 점을 경계하고 있습니다.
- [marktechpost] NVIDIA garak Tutorial: Build a Complete Defensive LLM Red-Teaming Workflow with Custom Probes and Detectors
- [arxiv] Attack Selection in Agentic AI Control Evaluations Meaningfully Decreases Safety
- [arxiv] Lean4Agent: Formal Modeling and Verification for Agent Workflow and Trajectory
agentic-memory-optimization 2건
단순한 문맥 유지를 넘어 에이전트가 장기적인 작업을 수행할 수 있도록 의미론적, 일화적, 절차적 기억을 통합하는 프레임워크 개발이 중요해지고 있습니다. 또한 추론 효율성을 높이기 위해 동적인 난이도 추적이나 불확실성 기반의 도구 사용 전략을 병행하고 있습니다.
reasoning-transparency 3건
LLM의 추론 과정을 '블랙박스'에서 '글래스박스'로 전환하려는 시도가 핵심입니다. 베이지안 네트워크를 활용한 투명성 확보나, 생각의 연쇄(CoT) 없이도 내부 추론 능력을 측정하여 모델의 안전성과 신뢰성을 검증하는 방식이 제안되고 있습니다.
당일 수집된 원문 아이템 (61건)
Confidential submission of draft S-1 to the SEC
OpenAI가 미국 증권거래위원회(SEC)에 S-1 서류를 비공개로 제출했다.
The crash that vanished: control and emergence in a five-model economy
다섯 개의 모델로 구성된 경제 시스템 내의 제어 및 창발 현상을 다룬 연구 내용을 담은 블로그 글이다.
Building Pakistan Notice Helper: A Small AI Tool for a Very Local Safety Problem
파키스탄의 지역 안전 문제를 해결하기 위해 소규모 AI 도구인 'Pakistan Notice Helper'를 개발한 사례를 다룬 글이다.
Microsoft AI Introduces MAI-Transcribe-1.5: 2.4% WER on Artificial Analysis, Best-in-Class FLEURS Accuracy, and Up to 5x Faster Long-Audio Transcription
마이크로소프트가 성능과 처리 속도를 개선하고 43개 언어를 지원하는 음성 인식 모델 MAI-Transcribe-1.5를 출시했다.
Google Research Adds Agentic RAG to Gemini Enterprise Agent Platform with a Sufficient Context Agent for multi-hop queries
Google Research는 다단계 질의에서 충분한 정보를 확보할 때까지 재검색을 수행하여 정확도를 최대 34% 높이는 Agentic RAG 프레임워크를 Gemini Enterprise Agent 플랫폼에 도입했다.
A Geometric Account of Activation Steering through Angle-Norm Decomposition
언어 모델의 활성화 조정(activation steering)에서 개념 정보가 방향과 노름(norm) 성분에 어떻게 분산되어 있는지 분석하고, 기존 조정 방식들의 기하학적 차이를 규명했다.
AdMem: Advanced Memory for Task-solving Agents
LLM 기반 에이전트의 장기적인 작업 수행을 돕기 위해 의미론적, 일화적, 절차적 기억을 통합한 새로운 메모리 프레임워크인 AdMem을 제안했다.
Workflow-to-Skill: Skill Creation via Routing-Workflow-Semantics-Attachments Decomposition
LLM 에이전트의 기술(Skill)을 자동 구축하기 위해 워크플로우 구조, 의미론, 실행 단위를 분해하는 RWSA 기법을 제안했다.
Quantum-Inspired Trace-Augmented Evidence Selection for Reasoning over Structured Hypothesis Spaces
거대 언어 모델이 증거 기반 문제에서 오류를 줄일 수 있도록, 다수결 방식 대신 증거 선택을 조합 최적화 문제로 해결하는 새로운 추론 프레임워크를 제안했다.
Exploring Agentic Tool-Calling Decisions via Uncertainty-Aligned Reinforcement Learning
LLM 에이전트의 도구 사용 오류를 줄이기 위해 불확실성 정렬 강화학습을 활용하는 TRUST 기법을 제안했다.
The Sim-to-Real Gap of Foundation Model Agents: A Unified MDP Perspective
파운데이션 모델 에이전트의 시뮬레이션-실제 간 격차 문제를 마르코프 결정 과정(MDP)으로 공식화하고 이를 해결하기 위한 연구 방향을 제시한 논문.
StainFlow: Entity-Stain Tracking and Evidence Linking for Process Rewards in GUI Agents
GUI 에이전트의 강화학습 과정에서 단계별 보상을 정교하게 제공하기 위해 객체 상태 추적과 증거 연결을 활용하는 StainFlow 기법을 제안했다.
DyCon: Dynamic Reasoning Control via Evolving Difficulty Modeling
추론 과정에서 동적으로 변화하는 문제 난이도를 단계별 임베딩으로 추적해 추론 효율을 높이는 학습 불필요 프레임워크 DyCon을 제안했다.
Beyond Post-hoc Explanation: Toward Glassbox AI via Probabilistic Mediation
거대 언어 모델의 추론 과정을 투명하게 만들기 위해 베이지안 네트워크를 중간 구조로 활용하는 'Glassbox Framework' 아키텍처를 제안했다.
TOPSIS-RAD: Ranking According to Desires
기존 TOPSIS의 데이터 의존성과 순위 왜곡 문제를 해결하기 위해 의사결정자의 요구사항을 반영한 기준점을 도입한 TOPSIS-RAD 모델을 제안했다.
DuMate-DeepResearch: An Auditable Multi-Agent System with Recursive Search and Rubric-Grounded Reasoning
복잡한 연구 과제를 위해 계획, 실행, 검증을 분리하여 할루시네이션을 줄이고 감사 기능을 강화한 멀티 에이전트 시스템 DuMate-DeepResearch를 발표했다.
Online Pandora's Box for Contextual LLM Cascading
다양한 LLM API를 상황에 맞게 순차적으로 조회하고 최적의 결과를 선택하여 비용 효율성을 높이는 온라인 컨텍스트 기반 '판도라의 상자' 모델을 제안했다.
How AI Agents Reshape Knowledge Work: Autonomy, Efficiency, and Scope
AI 에이전트가 지식 노동을 어떻게 재편하는지 분석한 연구로, 자동화된 에이전트가 대화형 검색 도구보다 복잡한 작업을 훨씬 더 긴 시간 동안 자율적으로 수행하며 업무 효율을 높인다는 점을 확인했다.
Zero-Shot Embedding Drift Detection: A Lightweight Defense Against Prompt Injections in LLMs
LLM의 프롬프트 인젝션 공격을 탐지하기 위해 임베딩 공간의 의미론적 변화를 측정하는 경량 프레임워크 ZEDD가 제안되었다.
Autonomous heterogeneous catalyst discovery with a self-evolving multi-agent digital twin
다양한 촉매 반응 과정을 단일 GPU에서 30분 이내에 예측할 수 있는 자율형 멀티 에이전트 시스템인 CatDT를 개발했다.
FP8 is All You Need (Part 1): Debunking Hardware FP64 as the HPC Holy Grail
AI 최적화 GPU에서 FP8 연산과 Ozaki Scheme II 기법을 활용해 FP64 수준의 정밀도를 유지하면서도 기존의 FP64 하드웨어 중심 컴퓨팅 방식을 개선할 수 있음을 입증했다.
P-Cast Precision in FP8 Attention: Sink-Induced Collapse and the Optimality of S=2^8
FP8 어텐션 연산 시 발생하는 정밀도 저하 원인인 P-collapse 현상을 분석하고, 이를 방지하기 위한 효율적인 KV 블록 반복 순서 및 스케일링 전략을 제시했다.
Attention Consistent Longitudinal Medical Visual Question Answering Guided by Vision Foundation Models
시간에 따른 의료 영상 변화를 추론하기 위해 영상 등록 모듈과 주의 집중 기반 인코더-디코더를 활용하는 흉부 X-레이 분석 모델을 제안했다.
Attention-Guided Autoencoder Fusion for Insulator Defect Detection Using UAV Transmission-Line Imaging
무인 항공기 촬영 영상에서 고압 송전선 절연체 결함을 효과적으로 탐지하기 위해 어텐션 메커니즘과 오토인코더를 결합한 AE-YOLO 프레임워크를 제안했다.
Synthetic Benchmarks Overstate Forward-Forward Scaling: Real-Data Limits of Layer-Local Training
Forward-Forward 학습 방식의 성능을 개선한 DTG-FF 기법을 통해 실제 데이터셋에서의 확장성을 검증한 결과, 역전파 기반 학습 방식이 여전히 성능 면에서 우위에 있음을 확인했다.
Queen-Bee Agents: A BeeSpec-Centered Architecture for Governed Enterprise MCP Orchestration
기업 환경에서 모델 컨텍스트 프로토콜(MCP)을 기반으로 정책 준수와 권한 격리가 가능한 다중 에이전트 아키텍처인 Queen-Bee를 제안했다.
Detecting and Mitigating Bias by Treating Fairness as a Symmetry Operation
민감한 속성을 대칭 연산으로 간주하여 기계 학습 모델의 편향을 완화하는 새로운 정규화 기법을 제안했다.
DiBS: Diffusion-Informed Branch Selection
스도쿠 풀이 과정에서 기존 해결책의 한계를 극복하기 위해 확산 모델을 활용해 분기 선택을 안내하는 DiBS 기법을 제안했다.
Lean4Agent: Formal Modeling and Verification for Agent Workflow and Trajectory
Lean4Agent는 AI 에이전트의 워크플로우와 실행 경로를 형식적으로 설계하고 검증할 수 있도록 Lean4 언어를 활용한 새로운 프레임워크입니다.
CrowdMath: A Dataset of Crowdsourced Mathematical Research Discussions
수학적 협력 연구 과정을 담은 데이터셋 CrowdMath를 공개했다.
CARVE-Q: Quantum-Proposed, Classically Certified Interactive Driving Repair
자율주행에서 거부된 기동을 규칙에 따라 안전하게 수정하고 그 근거를 증명할 수 있는 인증 아키텍처 CARVE를 제안했다.
Position: Don't Just "Fix it in Post": A Science of AI Must Study Training Dynamics
AI를 과학적으로 이해하기 위해서는 사후 분석보다 모델이 형성되는 학습 과정과 역학을 연구해야 한다고 주장하는 제언 논문입니다.
AEGIS: A Backup Reflex for Physical AI
로봇 조작 작업 중 위험한 단계를 탐지하여 더 강력한 정책으로 전환함으로써 실패를 복구하는 새로운 방법론인 AEGIS가 제안되었다.
OpenSkill: Open-World Self-Evolution for LLM Agents
목표 작업에 대한 지도 없이 외부 자원만을 활용해 에이전트가 스스로 기술을 습득하고 검증 체계를 구축하는 프레임워크 OpenSkill을 제안했다.
Evidence-Based Intelligent Diagnostic and Therapeutic Visualization System with Large Language Models: Multi-Turn Interaction and Multimodal Treatment Plan Generation
지식 그래프와 거대 언어 모델을 활용해 진단 과정의 투명성과 해석 가능성을 높인 한의학 진단 및 치료 계획 생성 시스템을 개발했다.
Accounting for Context: Shaping Moral Credences for Value Alignment
AI 에이전트의 가치 정렬 시 다양한 도덕적 관점과 현실적인 맥락적 요소를 반영하여 의사결정을 내리는 새로운 형식을 제안한 논문이다.
Teaching the Way, Not the Answer: Privileged Tutoring Distillation for Multimodal Policy Optimization
멀티모달 언어 모델의 추론 효율을 높이기 위해 외부 교사 모델의 간섭 없이 토큰 수준의 지도를 제공하는 PTD-PO 프레임워크를 제안했다.
Hierarchical Semantic-Constrained Heterogeneous Graph for Audio-Visual Event Localization
학습하지 않은 카테고리까지 인식하고 위치를 파악할 수 있는 계층적 의미 제약 기반의 이질적 그래프(HSCHG) 모델을 제안했다.
Front-to-Attractors: Modifying the Front-to-Front Heuristic in Bidirectional Search
양방향 탐색 알고리즘에서 기존 front-to-front 휴리스틱의 높은 계산 비용을 해결하기 위해 새로운 'front-to-attractors' 휴리스틱 클래스를 제안했다.
Think Fast: Estimating No-CoT Task-Completion Time Horizons of Frontier AI Models
AI 모델이 생각의 연쇄(CoT) 없이 내부적으로 추론을 수행할 수 있는 능력을 측정하여, 기존의 안전성 모니터링 체계가 무력화될 가능성을 분석한 연구다.
Off-Policy Evaluation with Strategic Agents via Local Disclosure
본 논문은 전략적 행위자가 정책에 반응해 공변량을 수정하는 환경에서, 정보의 부분적 공개를 활용한 새로운 오프라인 정책 평가(OPE) 기법을 제안한다.
Act As a Real Researcher: A Suite of Benchmarks Evaluating Frontier LLMs and Agentic Harnesses in Research Lifecycle
AI 에이전트의 전문성과 과학적 판단 능력을 평가하기 위한 새로운 벤치마크 도구인 AARR(Act As a Real Researcher)을 제안했다.
When Does Multi-Agent Collaboration Help? An Entropy Perspective
다중 에이전트 시스템을 엔트로피 관점에서 분석한 결과, 약 43.3%의 사례에서 단일 에이전트가 다중 에이전트보다 더 나은 성능을 보이는 것으로 나타났다.
Trading Engagement for Sustainability: Carbon-Aware Re-ranking for E-commerce Recommendations
탄소 발자국 데이터가 부족한 이커머스 환경에서 검색 증강 생성 방식을 통해 탄소 배출량을 추정하고, 이를 기반으로 상품 추천 순위를 조정하는 친환경 추천 시스템 기법을 제안했다.
Human Adults and LLMs as Scientists: Who Benefits from Active Exploration?
성인들이 결합적 인과 규칙을 파악하는 데 어려움을 겪는 기존 현상과 달리, 능동적인 탐색을 통해 이러한 인과 관계 학습 능력이 크게 향상됨을 확인했다.
A Geometric Gaussian Mixture Representation of Plane Curves
평면 곡선을 기하학적 가우시안 혼합 모델로 표현하기 위해 곡선을 선분으로 근사하고 각 선분에 확률적 불확실성을 부여하는 새로운 기법을 제안했다.
Which Anatomy Matters Under Limited Labels? A Data-Efficient Anatomy-Aware Benchmark for Cardiac Pathology Prediction
데이터가 부족한 의료 영상 환경에서는 모델의 복잡성보다 임상적 해부학 정보를 잘 반영한 데이터 표현 방식이 심장 질환 예측 성능을 결정짓는 핵심 요소임을 확인했다.
DxPTA: An Architecture Design Space Exploration with Optical Dataflow-guided Strategy for HW/SW Co-Design of Photonic Transformer Accelerators
트랜스포머 가속기 설계를 위한 광학 데이터 흐름 기반의 하드웨어·소프트웨어 공동 설계 탐색 프레임워크인 DxPTA를 제안한 논문.
Agentic Large Language Models for Automated Structural Analysis of 3D Frame Systems
자연어 입력으로부터 3D 프레임 구조를 자동으로 해석하는 에이전트 기반 LLM 프레임워크가 제안되었다.
Coordinated optimization of departure sequencing and section-track allocation in railway short-term concentrated departure scenarios based on qubo and hybrid quantum algorithms
철도 단기 집중 출발 상황에서 출발 순서와 선로 배치를 최적화하기 위해 QUBO 모델과 시뮬레이션을 결합한 하이브리드 알고리즘을 제안했다.
Declarative Skills for AI Agents in Knowledge-Grounded Tool-Use Workflows
지식 기반 고객 서비스 환경에서 AI 에이전트의 워크플로우를 효율적으로 제어하기 위한 선언적 에이전트(Declarative Agent) 방식의 효과를 분석한 연구.
SafeGene: Reusable Adapters for Transferable Safety Alignment
SafeGene은 모델의 성능을 유지하면서 안전성을 보존할 수 있도록, 태스크와 독립적으로 재사용 가능한 안전성 어댑터 모듈을 제안한다.
Attack Selection in Agentic AI Control Evaluations Meaningfully Decreases Safety
AI 에이전트의 공격 시점을 전략적으로 선택하는 '공격 선택(attack selection)' 능력이 AI 안전 평가를 방해하여 보안 취약성을 높인다는 연구 결과.
Accelerated Fourier SAT (AFSAT): Fully Realising a GPU-based Symmetric Pseudo-Boolean SAT Solver
JAX 기반의 GPU 가속을 통해 대규모 병렬 처리가 가능한 pseudo-Boolean SAT 해결사 AFSAT을 개발했다.
A Study of Parallel Continuous Local Search
불만족성 문제(SAT) 해결을 위해 연속 최적화 문제로 변환한 병렬 연속 로컬 탐색(CLS)의 성능과 특성을 분석한 연구.
Built to benefit everyone: our plan
OpenAI가 모두에게 혜택을 주는 범용인공지능(AGI) 개발을 위한 접근성, 안전성, 공동 번영 중심의 미래 전략을 발표했다.
The Open Source Community is backing OpenEnv for Agentic RL
오픈소스 커뮤니티가 에이전트 기반 강화학습(Agentic RL)을 위한 오픈소스 환경인 OpenEnv를 지원하기 시작했다.
Introducing the OpenAI Economic Research Exchange
OpenAI가 AI가 일자리, 생산성 및 경제에 미치는 영향을 연구하기 위한 경제 연구 교류 프로그램을 시작했다.
datasette-agent-edit 0.1a0
Datasette Agent가 텍스트, SQL, SVG 파일 등을 수정할 수 있도록 지원하는 플러그인 datasette-agent-edit 0.1a0 버전이 출시되었다.
Amazing Digital Dentures (a failed project)
Amazing Digital Dentures 프로젝트에 관한 기술 블로그 게시물.
Building Reflective Prompt Optimization with GEPA: Multi-Component Prompts, Structured Feedback, and Held-Out Validation
GEPA 프레임워크를 활용해 구조화된 피드백과 검증으로 언어 모델의 프롬프트를 최적화하는 방법을 설명했다.