토픽 (3개)
agentic-governance-and-safety 5건
AI 에이전트의 권한 남용 및 보안 취약점이 현실화되면서, 이를 통제하기 위한 정책적 가드레일과 거버넌스 툴킷의 중요성이 강조되고 있습니다. 단순히 모델의 성능을 높이는 것을 넘어, 에이전트의 행동을 감사하고 위험을 제어하는 안전 아키텍처 구축이 핵심 과제로 부상했습니다.
- [simon_willison] Hackers Simply Asked Meta AI to Give Them Access to High-Profile Instagram Accounts. It Worked
- [marktechpost] An Implementation of the Microsoft Agent Governance Toolkit for Safe AI Agent Tool Use with Policies, Approvals, Audit Logs, and Risk Controls
- [arxiv] Acting with AI: An Interaction-Based Framework for Agentic Tort Liability
long-horizon-reasoning 4건
복잡한 문제 해결을 위해 모델이 장기적인 맥락을 유지하고 추론 과정을 추적하는 능력을 최적화하는 연구가 활발합니다. 특히 추론 과정에서의 환각을 줄이거나, 에이전트의 장기적인 기억과 계획 수립 능력을 강화하여 신뢰성 있는 결과를 도출하는 데 집중하고 있습니다.
memory-augmented-architecture 3건
모델의 고정된 지식을 넘어 외부 메모리 스택이나 지식 그래프를 활용해 추론 효율을 높이려는 시도가 지속되고 있습니다. 이는 모델 호출 비용을 절감하면서도 특정 도메인에서의 정확한 판단을 가능하게 하는 실용적인 대안으로 주목받고 있습니다.
- [marktechpost] Meet Memory OS: A 6-Layer Open-Source Memory Stack Built on Top of Hermes Agent
- [arxiv] Grokers: Bottom-Up Inductive Comprehension and Write-Time Intelligence over Typed Knowledge Graphs
- [arxiv] CoMIC: Collaborative Memory and Insights Circulation for Long-Horizon LLM Agents in Cloud-Edge Systems
당일 수집된 원문 아이템 (66건)
Holo3.1: Fast & Local Computer Use Agents
빠르고 로컬 환경에서 구동 가능한 컴퓨터 사용 에이전트인 Holo3.1을 소개하는 글.
Travelers deploys AI-powered claims countrywide with OpenAI
보험사 Travelers가 OpenAI의 기술을 활용해 고객의 보험금 청구 과정을 돕는 AI 기반 클레임 어시스턴트를 도입했다.
Alibaba’s Qwen Team Launches Qwen3.7-Plus, Adding Vision, Deep Reasoning, Tool Invocation, and Autonomous Iteration on the Bailian Platform
알리바바가 멀티모달 기능, 추론, 도구 활용 및 자율 반복 능력을 갖춘 에이전트 모델 Qwen3.7-Plus를 Bailian 플랫폼에 출시했다.
Codex for every role, tool, and workflow
OpenAI가 다양한 직무의 업무 효율을 높일 수 있는 Codex 기반의 플러그인과 도구들을 공개했다.
JetBrains Releases Mellum2: A 12B MoE Model for Fast, Specialized Tasks in Multi-Model AI Pipelines
JetBrains가 AI 워크플로우를 위한 12B 파라미터 규모의 MoE 모델인 Mellum2를 Apache 2.0 라이선스로 공개했다.
Advancing youth safety and opportunity through global leadership
OpenAI가 청소년의 AI 안전 보호와 기회 확대를 위한 국제 기구 설립 등 글로벌 대응을 촉구했다.
Pasted File Editor
붙여넣은 텍스트를 자동으로 파일로 변환하거나 파일을 직접 열고 드래그할 수 있게 해주는 Pasted File Editor 도구가 공개되었다.
Evaluating Interactive Reasoning in Large Language Models: A Hierarchical Benchmark with Executable Games
거대 언어 모델의 추론 능력을 평가하기 위해 실행 가능한 게임 474개를 활용한 다단계 대화형 평가 프레임워크가 제안되었다.
CAST: Non-Privileged Clipped Asymmetric Self-Teaching with Advantage Flipping for GRPO
대규모 언어 모델의 추론 성능을 높이기 위해 GRPO의 단점을 보완한 새로운 강화학습 기법인 CAST(Clipped Asymmetric Self-Teaching)를 제안했다.
Capability Self-Assessment: Teaching LLMs to Know Their Limits
거대 언어 모델의 자기 능력 평가 능력을 강화하기 위해 강화학습을 활용하여 모델이 스스로 문제를 해결할지 위임할지 판단하도록 학습시키는 기법을 제안했다.
Robust Shielding for Safe Reinforcement Learning
강화학습 환경에서 모델의 안전성을 보장하기 위해 전이 확률 정보를 알 수 없는 상황에서도 작동하는 로버스트 MDP 기반의 새로운 실딩(shielding) 프레임워크를 제안했다.
VESTA: Visual Exploration with Statistical Tool Agents
시각-언어 모델이 통계 도구를 활용해 데이터 분석 및 모델 정교화 과정을 자동화하는 프레임워크 VESTA가 제안되었다.
Weak Critics Make Strong Learners: On-Policy Critique Distillation for Scalable Oversight
강한 모델의 성능 향상을 위해 약한 모델을 판단자가 아닌 비판자로 활용하여 개선 방향을 제시하는 'weak-critic strong oversight' 기법을 제안했다.
SDR: Set-Distance Rewards for Radiology Report Generation
흉부 엑스레이 보고서 생성을 위해 문장 단위 임베딩 간의 집합 거리(set-to-set distance)를 보상으로 사용하는 새로운 강화학습 기법을 제안했다.
EnergyMamba: An Uncertainty-Aware Graph-Enhanced Selective State Space Model for Energy Consumption Prediction
에너지 소비 예측의 정확도와 신뢰성을 높이기 위해 시공간적 의존성을 고려하고 불확실성을 추정하는 모델인 EnergyMamba가 제안되었다.
Acting with AI: An Interaction-Based Framework for Agentic Tort Liability
AI 에이전트가 피해를 유발했을 때 책임 소재를 규명하기 위해 상호작용 방식에 기반한 새로운 불법행위 책임 프레임워크를 제안한 논문.
KACE: Knowledge-Adaptive Context Engineering for Mathematical Reasoning
수학적 추론 시 프롬프트 비대화 문제를 해결하기 위해 지식을 난이도와 도메인별로 구조화하여 저장하고 활용하는 KACE 기법을 제안했다.
TRACE: Trajectory Risk-Aware Compression for Long-Horizon Agent Safety
장기 에이전트의 안전성을 위해 궤적 전체를 압축하여 위험 신호를 효과적으로 탐지하는 TRACE 프레임워크가 제안되었다.
Efficient Test-time Inference for Generative Planning Models
생성형 AI 계획 모델의 추론 효율을 높이기 위해 학습된 생성 및 휴리스틱 모델을 활용하는 개선된 Open-Closed List 탐색 알고리즘을 제안했다.
ForeSci: Evaluating LLM Agents for Forward-Looking AI Research Judgment
AI 연구 환경에서 LLM 에이전트의 미래 예측 능력을 평가하기 위한 벤치마크인 ForeSci가 공개되었다.
AXIOM: A Trust-First Neuro-Symbolic Execution Architecture for Verifiable Mathematical Reasoning
언어 모델과 결정론적 컴퓨터 대수 시스템을 결합하여 수학적 추론의 정확성을 높인 아키텍처 AXIOM이 제안되었다.
Regularized Offline Policy Optimization with Posterior Hybrid Bayesian Belief
오프라인 강화학습에서 발생하는 에피스테믹 불확실성을 통합적으로 관리하기 위해 베이지안 강화학습을 활용한 새로운 정책 최적화 방식을 제안했다.
LLM-Driven Co-Evolutionary Automated Heuristic Design for Bi-Component Coupled Combinatorial Optimization
두 구성 요소가 결합된 조합 최적화 문제를 해결하기 위해 LLM을 활용한 이중 모집단 공동 진화 프레임워크인 CoEvo-AHD가 제안되었다.
Latent Reward Steering: An Adaptive Inference-Time Framework that Implicitly Promotes Cognitive Behaviors in Reasoning LLMs
추론 과정에서 모델의 잠재 상태를 최적화하여 인지적 행동을 유도하는 추론 시 적응형 프레임워크인 Latent Reward Steering(LRS)을 제안했다.
SHARP: Sleep-based Hierarchical Accelerated Replay for Long Range Non-Stationary Temporal Pattern Recognition
데이터가 순차적으로 들어오는 환경에서 장기 비정상적 시간 패턴을 효율적으로 학습하기 위한 SHARP라는 계층적 리플레이 프레임워크를 제안했다.
Agents on a Tree: Pathwise Coordination for Multi-Objective Molecular Optimization
분자 최적화를 위해 다중 목표를 다루는 트리 구조의 다중 에이전트 프레임워크인 ATOM이 제안되었다.
MindGames Arena Generalization Track: In2AI Solution with Delayed Per-Step Reward Attribution
다중 에이전트 전략 게임에서 보상을 에피소드 종료 시점에 계산하고 관련 단계에만 배분하는 지연 보상 할당 기법을 제안했다.
Universal Quantum Transformer
다중 큐비트 시스템의 물리적 특성을 활용해 수학적 및 대수적 추론 능력을 향상시키는 양자 기반 신경망 아키텍처인 Universal Quantum Transformer(UQT)를 제안했다.
On the evolution of the concept of probability as a mirror of the evolution of reason
확률 이론의 발전 과정을 수학적 역사가 아닌 인간의 합리성과 과학적 판단의 진화 관점에서 분석한 논문.
A Multi-AI-agent Framework Enabling End-to-end Finite Element Analysis for Solid Mechanics Problems
사용자의 자연어 명령을 기반으로 유한요소해석(FEA) 소프트웨어인 Abaqus를 자동 실행하는 멀티 에이전트 프레임워크 AbaqusAgent가 제안되었다.
TIGER: Traceable Inference with Graph-Based Evidence Routing for Mitigating Hallucinations in Multimodal Generation
멀티모달 생성 모델의 환각 현상을 줄이기 위해 입력과 출력에서 그래프를 추출하여 사실 관계를 검증하고 수정하는 TIGER 프레임워크를 제안했다.
MindZero: Learning Online Mental Reasoning With Zero Annotations
사람의 행동을 통해 심리 상태를 추론하는 온라인 정신 모델링 학습 프레임워크 MindZero가 제안되었다.
Geodesic Flow Matching for Denoising High-Dimensional Structured Representations
유클리드 기하학 기반의 기존 Flow Matching이 가진 한계를 극복하기 위해, 고차원 데이터의 기하학적 제약을 고려한 Geodesic Flow Matching 기법을 제안했다.
Closed-Loop Neural Activation Control in Vision-Language-Action Models
시각-언어-행동 모델의 제어 성능을 높이기 위해 정적인 개입 대신 시간 변화에 따라 적응적으로 제어 신호를 조절하는 CTRL-STEER 프레임워크를 제안했다.
On Wednesdays, We Ask Questions: Optimizing "Active Listening" in Automated Legal Triage and Referral
법률 상담 자동 분류 시스템인 FETCH에서 고품질 질문을 생성하려면 고성능 모델이 필요하며, 프롬프트 엔지니어링만으로는 법률 상담 질문의 질을 개선하는 데 한계가 있음을 확인했다.
Evaluating Bivariate Causal Statements Based on Mutual Compatibility
신뢰성 가정을 배제하고 변수 간의 이변량 인과 관계 진술을 평가할 수 있는 새로운 호환성 점수 측정 방법을 제안했다.
Coupling Language Models with Physics-based Simulation for Synthesis of Inorganic Materials
거대 언어 모델이 무기 화합물 합성 경로를 계획할 수 있도록 열역학 데이터베이스와 물리 기반 시뮬레이션을 결합한 하이브리드 프레임워크를 제안했다.
From Noise to Control: Parameterized Diffusion Policies
학습된 행동 매니폴드의 매개변수를 활용해 로봇의 행동을 정밀하게 제어하고 적응성을 높이는 Parameterized Diffusion Policy(PDP) 프레임워크를 제안했다.
From "Weak" Signals to Strong Models: Preference Delta Aggregation with LoRA Merging
약한 모델 쌍의 선호도 차이를 LoRA 어댑터로 학습하고 이를 결합해 강력한 모델을 개선하는 Preference Delta Aggregation(PDA) 프레임워크가 제안되었다.
The Deterministic Horizon: When Extended Reasoning Fails and Tool Delegation Becomes Necessary
확장된 추론(CoT)은 정보 이론적 한계로 인해 결정론적 작업에서 성능을 저하시키며, 특정 임계점 이후에는 도구 사용이 필수적임을 입증한 연구.
Doing What They Say, Not What They Reason: Locating the Faithfulness Gap in LLM Agents
LLM 에이전트가 제시하는 추론과 실제 행동 간의 일치 여부를 포커 시뮬레이터 환경에서 분석한 연구이다.
TAPS: Target-Aware Prefix Tree Selection for Diffusion-Drafted Speculative Decoding
확산 모델 기반 추론 시 검증 효율성을 높이기 위해 접두사 조건부 노드 선택 기법인 TAPS를 제안했다.
Threshold-Based Exclusive Batching for LLM Inference
LLM 추론 시 프리필과 디코딩을 혼합하는 기존 방식이 GPU 대역폭에 따라 성능 저하를 일으킬 수 있음을 확인하고, 성능 최적화를 위해 대역폭과 워크로드에 따라 혼합 배치와 단독 배치를 선택해야 한다는 점을 입증했다.
Probe Before You Edit: Probing-Guided Molecular Optimization for LLM Agents in Structure-Based Drug Design
구조 기반 약물 설계에서 LLM 에이전트가 결합 친화도와 약물성을 동시에 개선하기 어렵다는 점을 규명하고, 이를 진단하기 위한 두 가지 평가 지표를 제안했다.
PropLLM: Propagation-Aware Scene Reconstruction for Network Fault Diagnosis
네트워크 장애 진단을 위해 LLM의 추론 능력과 단계별 경로 추적 방식을 결합한 PropLLM 모델이 제안되었다.
Hidden Thoughts Are Not Secret: Reasoning Trace Exposure in LLMs
LLM이 내부 추론 과정을 숨기더라도 Reasoning Exposure Prompting(REP) 기법을 사용하면 사용자가 외부에서 추론 데이터를 유도할 수 있음을 입증했다.
Medication-Aware Financial Exploitation Detection for Alzheimer's Patients Using Edge-Aware Interaction Risk Modeling
알츠하이머 환자의 복약 순응도와 금융 거래 데이터를 결합하여 금융 착취를 감지하는 모델을 제안했다.
MOSAIC: Modular Orchestration for Structured Agentic Intelligence and Composition
데이터 과학 작업을 위해 메모리 기반의 모델 선택과 워크플로우 구성을 체계적으로 수행하는 에이전트 프레임워크인 MOSAIC이 제안되었다.
Model-Native Computing Architecture: Envisioning Future System Architecture Through the Lens of Computer Architecture
거대언어모델을 시스템 기술로 보고 컴퓨터 아키텍처 관점에서 에이전트 개발 및 운영 체계의 미래를 분석한 논문이다.
Position Paper: Post-Solve Robustness in Decision Engines: Feasible Regions and Smoothness Under Perturbations
혼합정수선형계획법(MILP) 기반 의사결정 엔진의 최적해에 대한 사후 견고성을 검증하고 해결책의 신뢰 범위를 측정하는 새로운 프레임워크를 제안했다.
Emergent Collaborative Deliberation in Multi-Model AI Systems: A BFT-Derived Protocol for Epistemic Synthesis
다중 AI 모델 간의 의견 불일치를 분석하여 합리적인 결론을 도출하는 비잔틴 장애 허용 기반의 Consilium 프로토콜을 제안했다.
Deliberative Curation: A Protocol for Multi-Agent Knowledge Bases
AI 에이전트 간의 공동 지식 관리를 위해 평판 기반 투표와 단계적 제재를 결합한 새로운 협업 지식 큐레이션 프로토콜을 제안했다.
Optimal Transport-based Permutation-Invariant Bayesian Optimization of Offshore Wind Farm Layouts
해상 풍력 발전 단지 배치와 같이 대칭성이 존재하는 최적화 문제에서, 데이터의 순서와 무관하게 효율적으로 탐색할 수 있는 베이지안 최적화 기법을 제안했다.
Grokers: Bottom-Up Inductive Comprehension and Write-Time Intelligence over Typed Knowledge Graphs
지식 그래프의 구조를 학습하고 추론 내용을 미리 기록하여 쿼리 시 추가적인 모델 호출 비용 없이 활용하는 Grokers 아키텍처를 제안했다.
Product-Aware Deep Autoencoders for Robust Process Monitoring in Multi-Product Cyber-Physical Systems
다품종 제조 환경에서 발생하는 이상 탐지의 정확도를 높이기 위해 제품별 특성을 고려한 'Product-Aware' 딥 오토인코더 모델을 제안했다.
CoMIC: Collaborative Memory and Insights Circulation for Long-Horizon LLM Agents in Cloud-Edge Systems
클라우드-엣지 환경에서 에이전트의 메모리와 통찰을 공유하여 경량 모델의 장기 과업 수행 능력을 개선하는 CoMIC 프레임워크를 제안했다.
AI Sovereignty as National Learning Capacity: A Human-Centered Learning Mechanics Viewpoint on France, the United States, and China
프랑스의 AI 주권을 국가적 학습 시스템으로 정의하고, AI 발전을 정보 유입과 엔트로피 소산의 균형 관점에서 분석한 논문.
micropython-wasm 0.1a0
Wasmtime 환경에서 마이크로파이썬 코드를 실행할 수 있게 해주는 micropython-wasm 0.1a0 버전이 공개되었다.
Codex is becoming a productivity tool for everyone
OpenAI의 Codex 모델이 연구, 데이터 분석, 자동화 등 지식 노동 전반의 생산성 도구로 활용되고 있다.
How to Speed Up Transformer Training Using NVIDIA Apex (FusedAdam, FusedLayerNorm) and Native torch.amp
NVIDIA Apex의 FusedAdam, FusedLayerNorm 및 torch.amp를 사용하여 트랜스포머 모델의 학습 속도를 향상하는 방법을 설명했다.
Expanding Project Glasswing
Anthropic이 Project Glasswing 프로젝트를 확장했다.
Hackers Simply Asked Meta AI to Give Them Access to High-Profile Instagram Accounts. It Worked
해커들이 Meta AI 지원 챗봇의 계정 복구 기능을 악용해 타인의 인스타그램 계정 권한을 탈취하는 사례가 확인되었다.
MiniMax Releases MiniMax M3 with MSA Architecture Supporting 1M-Token Context, Native Multimodality, and Agentic Coding
MiniMax가 100만 토큰의 컨텍스트를 지원하고 이미지, 영상 및 컴퓨터 사용 기능을 갖춘 멀티모달 모델 MiniMax M3를 출시했다.
Our views on AI policy and political advocacy
OpenAI가 AI 정책과 규제, 안전에 대한 회사의 입장과 정치적 중립성에 관한 원칙을 공개했다.
Meet Memory OS: A 6-Layer Open-Source Memory Stack Built on Top of Hermes Agent
Hermes Agent에 6계층 구조와 로컬 지속성 메모리 기능을 추가한 오픈소스 프로젝트 Memory OS가 공개되었다.
Introducing Mellum2: A 12B Mixture-of-Experts Model by JetBrains
JetBrains에서 12B 규모의 Mixture-of-Experts 모델인 Mellum2를 공개했다.