토픽 (3개)
agent-reliability-benchmarking 6건
에이전트의 실제 수행 능력과 안전성을 검증하기 위한 정교한 벤치마킹 방법론에 집중하고 있습니다. 특히 에이전트 실행 궤적의 이상 탐지나 장기 작업 수행 시 발생하는 오류를 체계적으로 평가하려는 시도가 늘고 있습니다.
agentic-governance-safety 5건
에이전트 시스템이 복잡해짐에 따라 발생하는 기술 부채와 보안 취약점을 관리하기 위한 가드레일 구축이 핵심 과제로 떠오르고 있습니다. 단순히 모델의 성능을 높이는 것을 넘어, 에이전트의 행동을 제어하고 안전한 데이터 흐름을 보장하는 프레임워크 설계에 주목합니다.
- [openai] OpenAI’s Frontier Governance Framework
- [arxiv] Provably Secure Agent Guardrail
- [arxiv] Governing Technical Debt in Agentic AI Systems
reasoning-trace-optimization 4건
모델의 추론 과정을 단계별로 분해하고, 이를 보상 체계와 결합하여 최적화하는 연구가 활발합니다. 추론 과정에서의 오류를 진단하고 이를 데이터로 활용하여 모델의 논리적 정확성을 높이려는 시도가 주를 이룹니다.
당일 수집된 원문 아이템 (65건)
How Braintrust turns customer requests into code with Codex
Braintrust가 Codex를 활용하여 고객 요청을 코드로 변환하는 방식을 다룬 사례를 소개한다.
Boston Children’s uses AI to unlock new diagnoses
보스턴 어린이 병원이 AI를 활용해 새로운 질병 진단법을 개발했다.
Meet mKernel: A Multi-GPU, Multi-Node Fused Kernel Library for GPU-Driven Communication
GPU 기반 통신을 위한 다중 GPU 및 다중 노드 퓨즈드 커널 라이브러리인 mKernel을 소개했다.
Hexo Labs Open-Sources SIA: A Self-Improving Agent That Updates Both the Harness and the Model Weights
Hexo Labs가 모델 가중치와 환경을 스스로 개선하는 에이전트 SIA를 오픈소스로 공개했다.
Frontier LLM-based agents can overcome the ontology curation bottleneck for natural phenotypes
거대언어모델 기반 에이전트가 자연 표현형에 대한 온톨로지 구축 문제를 해결할 수 있음을 다룬 연구.
BEAMS: Benchmarking and Evaluating AI for Modeling and Simulation
AI 모델링 및 시뮬레이션 성능을 평가하기 위한 벤치마크인 BEAMS를 제안한 논문.
When Models Disagree: Rethinking LLM Evaluation for Public Comment Analysis
공공 의견 분석을 위한 거대언어모델(LLM) 평가 방식을 재검토한 연구 논문.
Mind Your Tone: Does Tone Alter LLM Performance?
언어 모델의 말투(Tone)가 성능에 미치는 영향을 분석한 논문.
Differentiable Belief-based Opponent Shaping
Differentiable Belief-based Opponent Shaping 기법을 제안한 논문.
Hallucination Mitigation with Agentic AI, Nested Learning, and AI Sustainability via Semantic Caching
에이전트 AI의 환각 완화, 중첩 학습, 시맨틱 캐싱을 활용한 AI 지속가능성 문제를 다룬 논문.
Bridging the Sim-to-Real Gap in Reinforcement Learning-Based Industrial Dispatching through Execution Semantics
실행 의미론을 활용하여 강화학습 기반 산업 스케줄링의 시뮬레이션-실제 간 격차를 줄이는 방안을 다룬 논문.
The Importance of Out-of-Band Metadata for Safe Autonomous Agents: The Redpanda Agentic Data Plane
자율 에이전트의 안전성을 위해 out-of-band 메타데이터 활용의 중요성을 다룬 Redpanda Agentic Data Plane에 관한 논문.
The Chain Holds, the Answer Folds: Trace-Answer Dissociation in Reasoning Models Under Adversarial Pressure
추론 모델이 적대적 상황에서 사고 과정과 결과값이 일치하지 않는 'Trace-Answer Dissociation' 현상을 분석한 논문.
PRO-CUA: Process-Reward Optimization for Computer Use Agents
컴퓨터 사용 에이전트를 위한 프로세스 보상 최적화 기법인 PRO-CUA를 제안한 논문.
Trends in AI and Human-AI Interaction in Clinical Trials -- A Hybrid Human-AI Exploration
임상 시험 분야에서 인공지능과 인간-AI 상호작용의 흐름을 분석한 연구 논문.
Better Later Than Sooner: Neuro-Symbolic Knowledge Graph Construction via Ontology-grounded Post-extraction Correction
온톨로지 기반의 사후 추출 보정을 통해 신경 기호 지식 그래프를 구축하는 새로운 방법을 제안한 논문.
Paper Agents, Paper Gains: An Empirical Analysis of DeFi Investment Agents
DeFi 투자 에이전트의 성과를 분석한 연구 논문.
ReasonOps: Operator Segmentation for LLM Reasoning Traces
LLM 추론 과정의 연산자 분할을 다루는 논문 ReasonOps.
GTA: Generating Long-Horizon Tasks for Web Agents at Scale
웹 에이전트를 위해 대규모로 장기 작업(long-horizon tasks)을 생성하는 방법론 GTA를 다룬 논문.
Tailoring the Curriculum: Student-Centered Reasoning Distillation via Dynamic Data-Model Compatibility
데이터와 모델 간의 동적 호환성을 활용하여 학생 중심의 추론 증류를 수행하는 커리큘럼 학습 기법을 다룬 논문.
Surfacing Isolated Learners with Outcome-Independent Mediation of Feedback between Teachers and Students Using AI
AI를 활용해 교사와 학생 사이의 피드백을 중재함으로써 고립된 학습자를 식별하는 방법에 관한 논문.
DenseSteer: Steering Small Language Models towards Dense Math Reasoning
소규모 언어 모델의 수학적 추론 능력을 강화하기 위한 기법인 DenseSteer를 제안한 논문.
OpenClawBench: Benchmarking Process-side Anomalies in Real-world Agent Execution Trajectories
실제 환경에서 에이전트 실행 과정의 이상치를 평가하기 위한 벤치마크인 OpenClawBench를 소개한 논문.
Harmonizing Real-Time Constraints and Long-Horizon Reasoning: An Asynchronous Agentic Framework for Dynamic Scheduling
동적 스케줄링을 위한 실시간 제약 조건과 장기 추론을 조화시키는 비동기 에이전트 프레임워크를 제안한 논문.
When and How Human Curation Backfires: Preference Alignment under Multi-Model Self-Consuming Loop
다중 모델이 생성한 데이터로 학습하는 자기 소비 루프 환경에서 인간의 선호도 정렬이 오히려 성능을 저하시키는 현상과 그 원인을 분석한 논문.
CoHyDE: Iterative Co-Training of LLM Rewriter & Dense Encoder for Tool Retrieval
도구 검색을 위해 LLM 재작성기와 밀집 인코더를 반복적으로 공동 학습시키는 방법론인 CoHyDE를 제안한 논문.
Entropy-KL Divergence-based Token Masking: A Novel Approach for Selective Fine-tuning of Large Language Models
엔트로피-KL 발산 기반 토큰 마스킹을 활용한 거대 언어 모델 선택적 미세 조정 기법을 다룬 논문.
ConMoE: Expert-Pool Consolidation via Prototype Reassignment for MoE Compression
프로토타입 재할당을 통해 MoE 모델의 전문가 풀을 통합하여 압축하는 기법인 ConMoE를 제안한 논문.
Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet
Claude 3 Sonnet 모델에서 해석 가능한 특징을 추출하는 단일 의미론적(monosemanticity) 확장 연구를 다룬 논문.
Aligned but Fragile: Enhancing LLM Safety Robustness via Zeroth-Order Optimization
0차 최적화(Zeroth-Order Optimization)를 통해 거대언어모델(LLM)의 안전성 강건성을 향상시키는 방법을 다룬 논문.
MiraBench: Evaluating Action-Conditioned Reliability in Robotic World Models
로봇 월드 모델의 행동 기반 신뢰성을 평가하기 위한 벤치마크인 MiraBench를 제안한 논문.
Architecture-Sensitive Supervised Fine-Tuning for Screen-Conditioned Action Prediction: A PiSAR Benchmark
화면 기반 행동 예측을 위한 아키텍처 민감형 지도 미세 조정 기법인 PiSAR 벤치마크를 제안한 논문.
When Does Persona Prompting Actually Help? A Retrieval and Metric Analysis of Expert Role Injection in LLMs
거대언어모델(LLM)에서 페르소나 프롬프팅이 실제 성능에 미치는 영향을 검색 및 메트릭 관점에서 분석한 논문.
Indexing the Unreadable: LLM-Native Recursive Construction and Search of Service Taxonomies
LLM을 활용해 서비스 분류 체계를 재귀적으로 구축하고 검색하는 방식을 다룬 논문.
Behavior-Induced Mirror-Prox Temporal-Difference Learning for Faster Off-Policy Prediction
오프폴리시 예측 속도를 높이기 위한 Behavior-Induced Mirror-Prox Temporal-Difference 학습 기법을 제안한 논문.
The Cognitive Categorical Transformer: Category-Theoretic Inductive Biases for Language Modeling
범주론적 귀납 편향을 언어 모델링에 적용한 Cognitive Categorical Transformer에 관한 논문.
Review Arcade: On the Human Alignment and Gameability of LLM Reviews
대규모 언어 모델 리뷰의 인간 정렬 및 게임화 가능성을 다룬 논문 'Review Arcade'.
Robust and Efficient Guardrails with Latent Reasoning
잠재 추론을 활용한 강력하고 효율적인 가드레일 기법을 제안한 논문.
Beyond Consensus: Trace-Level Synthesis in Mixture of Agents
에이전트 혼합 모델(Mixture of Agents)에서 추적 수준의 합성(Trace-Level Synthesis) 방식을 다룬 논문.
The Confidence Shortcut: A Reasoning Failure Mode of Masked Diffusion Models
마스크드 확산 모델에서 발생하는 추론 오류 모드인 '신뢰도 지름길(Confidence Shortcut)' 현상을 다룬 논문.
Governing Technical Debt in Agentic AI Systems
에이전트 AI 시스템에서 발생하는 기술적 부채를 관리하는 방안을 다룬 논문.
BenchTrace: A Benchmark for Testing Reflection Ability and Controlled Evolution in LLM Agents
LLM 에이전트의 성찰 능력과 제어된 진화 과정을 평가하기 위한 벤치마크 BenchTrace를 제안한 논문.
Rethinking Literature Search Evaluation: Deep Research Helps, and Human Citation Lists Are Not a Ground Truth
문헌 검색 평가 방식에 대해 고찰하며, 딥 리서치 도구의 유용성과 인간이 작성한 참고문헌 목록이 절대적인 정답이 될 수 없음을 다룬 논문.
Provably Secure Agent Guardrail
AI 에이전트의 안전한 작동을 보장하기 위한 증명 가능한 가드레일 기술을 다룬 논문.
EvoMD-LLM: Learning the Language of Species Evolution in Reactive Molecular Dynamics
반응 분자 동역학에서 종 진화 언어를 학습하는 모델인 EvoMD-LLM을 제안한 논문.
Diagnosing Harmful Continuation in Answer-Correct Long-CoT Training Traces
정답이 보장된 긴 사고 과정(Long-CoT) 학습 데이터에서 발생하는 유해한 답변 생성 문제를 분석한 논문.
Rubric-Guided Process Reward for Stepwise Model Routing
단계별 모델 라우팅을 위한 루브릭 기반 프로세스 보상 기법을 다룬 논문.
PassNet: Scaling Large Language Models for Graph Compiler Pass Generation
그래프 컴파일러 패스 생성을 위해 대규모 언어 모델을 확장하는 PassNet을 제안한 논문.
Behavior-Aware Auxiliary Corrections for Off-Policy Temporal-Difference Prediction
오프-폴리시 시간차 예측을 위한 Behavior-Aware Auxiliary Corrections 기법을 제안한 논문.
Ultra-Reduced-Impact-Encased-Logging (URIEL): propose a new method for selective sustainable logging and post-harvest silvicultural treatment in tropical forest using airborne robotics systems
항공 로봇 시스템을 활용해 열대림에서 선택적 벌목과 수확 후 관리를 수행하는 새로운 방식인 URIEL을 제안한 논문.
Orthogonal Concept Erasure for Diffusion Models
확산 모델을 위한 직교 개념 제거(Orthogonal Concept Erasure) 기법을 다룬 논문.
VFEAgent: A Multimodal Agent Framework for End-to-End Automated Finite Element Analysis
종단간 자동 유한요소 해석을 위한 멀티모달 에이전트 프레임워크인 VFEAgent를 제안한 논문.
Adopt $\neq$ Adapt: Longitudinal Analyses of LLM Conversations in the Wild
실제 환경에서의 LLM 대화 데이터를 장기적으로 분석하여 사용자의 수용(Adopt)과 적응(Adapt)의 차이를 다룬 연구 논문.
Practitioner Beliefs and Behaviors in AI-Enhanced Education: DOT Framework Survey Evidence
AI 활용 교육에 대한 교육자들의 인식과 행동을 DOT 프레임워크를 통해 조사한 연구 논문.
How to Design an End-to-End Ansible Automation Lab with Playbooks, Inventories, Roles, Vault, Dynamic Inventory, and Custom Modules
Ansible의 플레이북, 인벤토리, 역할, Vault 등 주요 기능을 활용하여 엔드투엔드 자동화 랩을 설계하는 방법을 설명하는 가이드.
datasette 1.0a31
데이터 분석 및 탐색 도구인 Datasette의 1.0a31 버전이 릴리스되었다.
Strengthening societal resilience with Rosalind Biodefense
OpenAI가 생물학적 위협 대응을 위해 공개한 Rosalind Biodefense 프로젝트를 다루고 있다.
Anthropic's run-rate revenue hits $47 billion
Anthropic의 연간 매출 추정치가 470억 달러에 도달했다는 소식이다.
A shared playbook for trustworthy third party evaluations
OpenAI가 제3자 기관의 신뢰할 수 있는 모델 평가를 위한 공통 가이드라인을 제시했다.
Profiling in PyTorch (Part 1): A Beginner's Guide to torch.profiler
PyTorch의 torch.profiler 기능을 사용하여 모델 성능을 분석하는 방법을 설명한 입문 가이드.
Claude Opus 4.8: "a modest but tangible improvement"
Claude Opus 4.8 모델이 소폭의 성능 개선을 거쳐 공개되었다.
llm-anthropic 0.25.1
llm-anthropic 패키지 버전 0.25.1이 릴리스되었다.
Liquid AI Releases LFM2.5-8B-A1B: An On-Device MoE Model With 8.3B Total and 1.5B Active Parameters
Liquid AI가 총 8.3B, 활성 1.5B 파라미터 규모의 온디바이스 MoE 모델인 LFM2.5-8B-A1B를 발표했다.
Anthropic Ships Claude Opus 4.8 Alongside Dynamic Workflows and Cheaper Fast Mode, With Workflows Capped at 1,000 Subagents
Anthropic이 새로운 Claude Opus 4.8 모델과 함께 다이내믹 워크플로우 기능 및 더 저렴한 Fast 모드를 출시했다.
markdown-svg-renderer
Markdown 내에서 SVG를 렌더링하기 위한 도구인 markdown-svg-renderer에 관한 내용이다.