토픽 (5개)
agent-governance-and-safety 4건
AI 에이전트의 도구 사용 및 의사결정 과정에서 발생할 수 있는 위험을 통제하기 위해 정책, 감사 로그, 안전 가드레일을 도입하는 것에 집중하고 있습니다. 특히 에이전트의 행동을 격리하고 평가 루브릭을 명확히 정의하여 신뢰성을 확보하려는 시도가 활발합니다.
- [marktechpost] An Implementation of the Microsoft Agent Governance Toolkit for Safe AI Agent Tool Use with Policies, Approvals, Audit Logs, and Risk Controls
- [simon_willison] How we contain Claude across products
- [arxiv] COMPASS: Cognitive MCTS-Guided Process Alignment for Safe Search Agents
- [arxiv] PReMISE: Policy Rubrics as Measurement Specifications for LLM Judges
structured-reasoning-and-planning 4건
단순한 추론을 넘어 트리 탐색, 그래프 구조화, DAG 기반 계획 등 체계적인 사고 과정을 에이전트에 이식하려는 연구가 주류를 이룹니다. 논리적 오류를 줄이고 복잡한 다단계 작업을 수행하기 위해 검색 기록과 계획을 구조적으로 관리하는 기법들이 제안되고 있습니다.
- [arxiv] LinTree: Improving LLM Reasoning with Explicitly Structured Search Histories
- [arxiv] TraceGraph: Shared Decision Landscapes for Diagnosing and Improving Agent Trajectories
- [arxiv] Structure-Induced Information for Rerooting Levin Tree Search
- [arxiv] Planner-Centric Reinforcement Learning for Deep Research with Structure-Aware Reward
spiking-neural-networks 3건
기존의 인공 신경망 구조를 넘어 뉴런의 스파이킹 특성을 반영한 효율적인 학습 모델에 대한 관심이 높습니다. 특히 경사 하강법 없이 진화 전략을 사용하거나 메타-잔차 구조를 도입하여 심층 스파이킹 네트워크의 학습 성능을 개선하려는 시도가 돋보입니다.
agentic-skill-management 3건
에이전트가 스스로 기술을 발견, 평가, 관리하거나 전문가 지식을 증류하여 새로운 기술을 자동 생성하는 프레임워크 구축에 집중하고 있습니다. 에이전트의 범용성을 높이기 위해 기술을 모듈화하고 이를 적재적소에 활용하는 능력이 중요하게 다뤄집니다.
- [marktechpost] Build Skill-Augmented AI Agents with SkillNet for Search, Evaluation, Graph Analysis, and Task Planning
- [arxiv] COLLEAGUE.SKILL: Automated AI Skill Generation via Expert Knowledge Distillation
- [arxiv] MAVEN: Improving Generalization in Agentic Tool Calling
evaluation-benchmarking 3건
특정 도메인(의료, 그래프 추론, 음식 등)에서의 모델 성능을 객관적으로 측정하기 위한 벤치마크 개발이 활발합니다. 특히 GenAI 시스템의 신뢰성을 평가하기 위해 프라이버시를 보호하면서도 투명성을 검증할 수 있는 표준화된 프레임워크가 필요하다는 인식이 확산되고 있습니다.
- [arxiv] FAM-Bench: A Multimodal Benchmark for Condition-Aware Food-as-Medicine Reasoning
- [arxiv] Industrializing Prediction-Powered Inference: The GLIDE Library for Reliable GenAI and Agentic Systems Evaluation
- [arxiv] EHRBench: An Automated and Reliable EHR-based Benchmark for Clinical Decision Making with LLMs
당일 수집된 원문 아이템 (61건)
Beyond LLMs: Why Scalable Enterprise AI Adoption Depends on Agent Logic
기업 환경에서 확장 가능한 AI 도입을 위해서는 단순한 언어 모델을 넘어 에이전트 로직이 핵심이라는 내용을 다룬 논문이다.
Show HN: Voice control coding agents on your machine via smartwatch / CarPlay
스마트워치나 CarPlay를 통해 로컬 환경의 코딩 에이전트를 음성으로 제어할 수 있는 DashVox 서비스.
Building the infrastructure for the Intelligence Age in Michigan
OpenAI가 미시간주에 1GW 규모의 데이터 센터를 착공하며 AI 인프라 구축을 본격화한다.
OpenAI frontier models and Codex are now available on AWS
OpenAI의 최신 모델과 Codex를 AWS 환경에서 직접 사용할 수 있게 되었다.
May 2026 newsletter
Simon Willison의 2026년 5월 뉴스레터에서는 AI 비용 상승과 Anthropic의 성과, Datasette Agent 출시 소식 등을 다루고 있다.
Welcome NVIDIA Cosmos 3: The First Open Omni-model for Physical AI Reasoning and Action
NVIDIA가 물리 AI 추론 및 행동을 위한 첫 번째 오픈 옴니모델인 Cosmos 3를 공개했다.
Parallax: A Parameterized Local Linear Attention That Keeps Softmax and Adds a Learned Covariance Correction Branch
Parallax는 기존의 로컬 선형 어텐션(LLA)에 학습 가능한 투영기와 공분산 보정 브랜치를 추가하여 성능을 개선한 새로운 모델 구조이다.
BilliardPhys-Bench: Benchmarking Physical Reasoning and Visual Dynamics of Multimodal LLMs
멀티모달 모델의 물리적 추론 및 시각적 역학 능력을 평가하기 위한 당구 환경 기반의 새로운 벤치마크 BilliardPhys-Bench를 제안했다.
A Persona-Based Evaluation Framework for Pluralistic Alignment in Generative AI
다양한 인간의 관점을 반영한 가상 페르소나를 활용해 생성형 AI의 정렬을 다각적으로 평가하는 새로운 프레임워크를 제안했다.
LLM-FACETS: A Privacy-Preserving Framework for Evaluating LLM Transparency and Accountability
LLM의 투명성과 책임성을 평가하기 위해 비전문가도 쉽게 사용할 수 있는 오픈소스 프레임워크 LLM-FACETS가 개발되었다.
Formalizing and falsifying causal pathways of rare events
구조방정식 모델에서 희귀 사건의 인과 경로를 정의하고, 전체 인과 그래프 없이도 인과 추론이 가능한 추상화 기법을 제안한 연구.
COLLEAGUE.SKILL: Automated AI Skill Generation via Expert Knowledge Distillation
사람의 전문 지식과 행동 양식이 담긴 기록을 AI 에이전트가 사용할 수 있는 스킬로 자동 변환하는 시스템인 COLLEAGUE.SKILL을 제안했다.
TraceGraph: Shared Decision Landscapes for Diagnosing and Improving Agent Trajectories
AI 에이전트의 의사결정 과정을 분석하여 성과 지표 너머의 행동 패턴을 시각화하고 평가하는 그래프 기반 프레임워크 TraceGraph가 제안되었다.
Learning to Adapt: Self-Improving Web Agent via Cognitive-Aware Exploration
복잡한 환경에서 스스로 학습하고 탐색 범위를 넓히는 웹 에이전트 학습 프레임워크인 SCALE과 SCALE-Hop을 제안했다.
FAM-Bench: A Multimodal Benchmark for Condition-Aware Food-as-Medicine Reasoning
특정 건강 상태에 따른 음식의 적합성을 평가할 수 있도록 13개 질환 관련 데이터셋을 포함한 멀티모달 벤치마크 FAM-Bench를 제안했다.
Choosing the Lens: Strategic Perspective Activation in Context-Dependent Argumentation
문맥에 따라 공격의 성공 여부가 결정되는 새로운 논증 프레임워크인 CDAF를 제안했다.
When LLM Reward Design Fails: Diagnostic-Driven Refinement for Sparse Structured RL
강화학습에서 LLM 기반 보상 함수 설계 시 발생하는 오류를 진단하고 이를 반복적으로 개선하는 프레임워크를 제안하여 성능을 크게 향상시켰다.
Gradient-Free Training of Spiking Neural Networks via Low-Rank Evolution Strategies
스파이킹 신경망(SNN) 학습 시 진화 전략의 메모리 비용을 크게 줄이는 저랭크 행렬 분해 기법인 EGGROLL을 제안했다.
Enhancing Regime Shift Detection Using Unstructured Data: A Study on the Treasury Market
중앙은행의 통신문을 분석하는 거대언어모델(LLM)과 통계적 검증 기법을 결합하여 금융 시장의 국면 변화를 더 정확하게 탐지하는 파이프라인을 제안했다.
Mental Damage: Caption Poisoning Attacks on Retrieval-Augmented Text-to-Music Generation
검색 증강 텍스트-음악 생성 시스템의 음악 데이터베이스에 악성 캡션을 주입해 생성 결과물을 왜곡하는 새로운 공격 방식을 제안했다.
Updating the standard neuron model in artificial neural networks
기존 인공 신경망의 단순한 뉴런 모델을 더욱 현실적인 피질 세포 모델로 교체하여 매개변수 증가 없이도 성능을 개선한 연구.
Physically Viable World Models: A Case for Query-Conditioned Embodied AI
관찰 기반의 기존 월드 모델은 물리적으로 부정확할 수 있음을 지적하고, 행동의 결과를 예측하기 위해 물리적 구조를 모델링하는 새로운 방식의 embodied AI 월드 모델이 필요함을 주장했다.
Procedural Generation of First Person Shooter Maps using Map-Elites
MAP-Elites 알고리즘을 활용하여 1인칭 슈팅 게임의 맵을 자동으로 생성하고 최적화하는 기법을 제안했다.
Uncertainty-Aware and Temporally Regulated Expert Advice in Reinforcement Learning for Autonomous Driving
자율주행 강화학습에서 불확실성을 기반으로 전문가의 조언을 적절히 활용해 안전한 탐색을 돕는 새로운 프레임워크를 제안했다.
EHRBench: An Automated and Reliable EHR-based Benchmark for Clinical Decision Making with LLMs
LLM의 임상 의사결정 능력을 평가하기 위해 실제 환자의 전자의무기록(EHR)을 기반으로 자동화된 신뢰성 높은 벤치마크 모델인 EHRBench를 제안했다.
Structure-Induced Information for Rerooting Levin Tree Search
복잡한 단일 에이전트 문제 해결을 위해 학습 기반의 리루터(rerooter)를 활용하여 하위 목표 생성 오버헤드를 줄인 새로운 트리 탐색 알고리즘을 제안했다.
MAVEN: Improving Generalization in Agentic Tool Calling
복잡한 도구 사용과 추론 능력을 개선하기 위해 구조적 분해와 검증 과정을 통합한 모듈형 에이전트 프레임워크 MAVEN을 제안했다.
PReMISE: Policy Rubrics as Measurement Specifications for LLM Judges
LLM 평가자의 판단 기준인 루브릭을 측정 사양으로 다루며, 인간 선호 데이터 기반으로 루브릭을 최적화하고 검증하는 프레임워크 PReMISE가 제안되었다.
Planner-Centric Reinforcement Learning for Deep Research with Structure-Aware Reward
복잡한 심층 조사 작업을 위해 연구 계획을 방향성 비순환 그래프(DAG) 형태로 구조화하고 강화학습으로 학습시키는 프레임워크 DecomposeR가 제안되었다.
SLAT: Segment-Level Adaptive Trimming for Efficient CoT Reasoning
추론 모델의 사고 과정에서 불필요한 반복을 줄이고 효율성을 높이기 위해 세그먼트 단위의 적응형 트리밍 기법인 SLAT를 제안했다.
COMPASS: Cognitive MCTS-Guided Process Alignment for Safe Search Agents
LLM 검색 에이전트의 다단계 추론 과정에서 발생하는 안전성 문제를 해결하기 위해, 인지적 트리 탐색과 단계별 정렬을 결합한 COMPASS 프레임워크를 제안했다.
Distilling LLM Feedback for Lean Theorem Proving
Lean4 정리 증명을 위해 언어 모델의 피드백을 토큰 수준에서 학습하여 탐색 효율과 다양성을 개선한 'Feedback Distillation' 학습 방법을 제안했다.
UniScale: Adaptive Unified Inference Scaling via Online Joint Optimization of Model Routing and Test-Time Scaling
모델 라우팅과 테스트 타임 스케일링을 온라인에서 공동 최적화하여 추론 품질과 비용을 효율적으로 조절하는 UniScale 기법이 제안되었다.
HADT: A Heterogeneous Multi-Agent Differential Transformer for Autonomous Earth Observation Satellite Cluster
지구 관측 위성 클러스터의 자율적인 자원 관리와 실시간 의사결정을 위해 이기종 멀티 에이전트 차분 트랜스포머(HADT) 모델을 제안했다.
GraphARC: A Comprehensive Benchmark for Graph-Based Abstract Reasoning
그래프 구조 데이터에서의 추상적 추론 능력을 평가하기 위해 ARC의 개념을 확장한 새로운 벤치마크 GraphARC가 제안되었다.
Vector Linking via Cross-Model Local Isometric Consistency
서로 다른 인코더가 생성한 임베딩 간의 국소적 기하학적 일관성을 활용하여, 소수의 기준점을 바탕으로 모델 간 객체 대응 관계를 복구하는 벡터 연결 기법을 제안했다.
Industrializing Prediction-Powered Inference: The GLIDE Library for Reliable GenAI and Agentic Systems Evaluation
생성형 AI와 에이전트 시스템을 신뢰성 있게 평가하기 위해 다양한 예측 기반 추론(PPI) 기법을 통합한 파이썬 라이브러리 GLIDE가 공개되었다.
Diagnosing Failure Modes of Shared-State Collaboration in Resource-Constrained Visual Agents
소형 시각 추론 모델에서 공유 작업 메모리 사용 시 오히려 환각 현상이 증폭되는 원인을 분석하고 이를 추적하기 위한 감사 프레임워크인 CoSee를 제안했다.
HypoAgent: An Agentic Framework for Interactive Abductive Hypothesis Generation over Knowledge Graphs
지식 그래프 내에서 사용자와 상호작용하며 귀추적 가설을 생성하는 에이전트 프레임워크인 HypoAgent가 제안되었다.
Answer-Set-Programming-based Abstractions for Reinforcement Learning
강화학습의 상태 공간 문제를 해결하기 위해 Answer-Set Programming(ASP)을 활용하여 CARCASS 프레임워크의 추상화 기능을 구현했다.
AutoSci: A Memory-Centric Agentic System for the Full Scientific Research Lifecycle
과학 연구 전 과정을 자동화하기 위해 설계된 메모리 중심의 에이전트 시스템 AutoSci가 제안되었다.
TRINE: A Token-Aware, Runtime-Adaptive FPGA Inference Engine for Multimodal AI
다양한 멀티모달 모델을 재구성 없이 단일 FPGA에서 효율적으로 실행할 수 있는 가속기 및 컴파일러 TRINE이 제안되었다.
XOResNet: Exclusive-OR Meta-Residuals Facilitate Deep Spiking Neural Networks Learning
심층 스파이킹 신경망(SNN)의 학습 효율을 높이기 위해 스파이크 중복과 정보 손실 문제를 해결하는 XOResNet 구조와 OR-ADD 숏컷 연결을 제안했다.
Hamiltonian-Inspired Attention Mechanism for Scalable RF Transmitter Fingerprinting
무선 송신기 식별의 안정성을 높이기 위해 해밀턴 역학의 물리적 원리를 적용한 해밀턴 트랜스포머 아키텍처를 제안했다.
Reinterpreting Safety Thresholds as Neuron Spiking Thresholds
자율주행의 위험 평가를 위해 대리 안전 지표(SSM)를 인간의 제동 반응을 모사하는 스파이킹 신경망(SNN) 기반의 신경 스파이킹 임계값으로 재해석하는 방법을 제안했다.
Evolutionary Algorithm for Reservoir Learning and Yielding
뇌의 구조에서 영감을 받아 리저버 컴퓨팅의 구조와 하이퍼파라미터를 자동으로 최적화하는 진화 알고리즘 기반 프레임워크 EARLY를 제안했다.
Full-field prediction for engineering-scale three-dimensional aircraft with multigrid-hierarchical learning
항공우주 설계 시 대규모 3차원 항공기 유동 해석의 계산 효율을 높이기 위해 다중 격자 계층 학습 프레임워크인 MHLF를 제안했다.
Unicorn: Scaling High-Dimensional Time Series Forecasting via Universal Correlation Modeling
다양한 시계열 데이터셋 간의 상관관계를 범용적으로 모델링하여 고차원 시계열 예측을 확장하는 프레임워크인 Unicorn이 제안되었다.
When LLMs Learn to Be Consistently Wrong: A Multi-Model Study of Linear Representations of Synthetic Deception
다양한 모델을 활용한 연구를 통해 인공지능이 의도적으로 거짓 정보를 생성할 때 나타나는 표현 방식(representational basis)을 분석한 논문이다.
Structured interactions improve distributed coordination beyond model scaling in a real-world multi-robot system
다중 로봇 시스템에서 로봇 개별의 모델 크기를 키우는 것보다 통신 구조를 계층적으로 재설계하는 것이 작업 효율성 향상에 훨씬 더 효과적이라는 연구 결과가 발표되었다.
LinTree: Improving LLM Reasoning with Explicitly Structured Search Histories
LLM의 추론 성능을 높이기 위해 검색 기록을 명시적으로 구조화하여 활용하는 LinTree 기법을 제안한 논문.
Transforming and Encoding FTS for SAT Solving: What Helps, What Hurts (Extended Version)
팩터드 태스크(factored tasks)를 SAT 문제로 인코딩하는 다양한 전략과 병렬 처리 방식의 효율성을 분석한 연구 논문.
PhyDrawGen: Physically Grounded Diagram Generation from Natural Language
PhyDrawGen은 물리 법칙을 엄격히 준수하는 물리 도표를 생성하기 위해 거대 언어 모델과 결정론적 솔버를 결합한 신경 기호 파이프라인을 제안한다.
Harness Updating Is Not Harness Benefit: Disentangling Evolution Capabilities in Self-Evolving LLM Agents
LLM 에이전트의 외부 요소 업데이트 능력인 'harness-updating'과 이를 활용하는 'harness-benefit' 간의 상관관계를 분석한 연구.
Healthcare Mechanisms from Policy-as-Code Search under Strategic Provider Response
의료 AI 메커니즘이 공급자의 전략적 대응에 미치는 영향을 평가하기 위해 멀티 에이전트 시뮬레이터인 Medi-Sim을 활용한 프로그램 합성 프레임워크를 제안했다.
Generating Graph-like Rules for Knowledge Graph Reasoning via Diffusion Models
지식 그래프 추론을 위해 복잡한 그래프 형태의 규칙을 생성하는 확산 모델 기반의 새로운 방법론을 제안했다.
Learning Agent-Compatible Context Management for Long-Horizon Tasks
외부 LLM이 에이전트의 컨텍스트를 학습된 강화학습을 통해 유연하게 관리하도록 돕는 Adaptive Context Management(AdaCoM) 기법이 제안되었다.
Anthropic confidentially submits draft S-1 to the SEC
Anthropic이 미국 증권거래위원회(SEC)에 기업공개(IPO)를 위한 S-1 서류 초안을 비공개로 제출했다.
datasette 1.0a32
Datasette 1.0a32 버전에서 INSERT RETURNING 쿼리 버그와 base_url 관련 문제들이 수정되었다.
An Implementation of the Microsoft Agent Governance Toolkit for Safe AI Agent Tool Use with Policies, Approvals, Audit Logs, and Risk Controls
AI 에이전트의 도구 사용 시 정책 검토와 승인 과정을 거치도록 설계된 Microsoft Agent Governance Toolkit 구현 사례를 소개한다.
The solution might be cancelling my AI subscription
AI 도구를 사용한 프로젝트가 통제할 수 없을 정도로 늘어나 집중력을 저하시키는 현상을 지적하며, AI 구독 해지를 고려한다는 내용의 글이다.