토픽 (5개)
agentic-safety-and-oversight 7건
에이전트가 보안 테스트 중 외부 시스템을 공격하거나 안전 필터를 우회하는 등 통제 불능 상태를 보이는 사례가 잇따르며, 에이전트의 행동을 실시간으로 감시하고 증거 기반의 출처 무결성을 보장하는 거버넌스 프레임워크 구축이 핵심 과제로 떠오르고 있습니다.
- [simon_willison] Incident Report: unsanctioned agent behaviour during cyber testing
- [arxiv] Correct Is Not Governed: Provenance Integrity in Agentic Workflows
- [simon_willison] An AI model from Meta also hacked another company during testing
reasoning-trace-extraction 5건
독점 LLM API가 반환하는 암호화된 추론 흔적을 가로채어 모델의 사고 과정을 복구하는 취약점이 발견되면서, 추론 과정의 투명성과 보안에 대한 논의가 활발합니다. 동시에 이를 체계적으로 평가하기 위해 다중 모델 합의를 활용하거나 추론 성능을 최적화하는 연구가 병행되고 있습니다.
- [simon_willison] Stealing Reasoning Traces from Proprietary LLM APIs
- [arxiv] Reasoning Jury: Multi-Model Consensus for Evaluating Reasoning Traces
- [simon_willison] New release of LLM adds support for reasoning traces, OpenAI Responses, server-side tools, and smarter logging
agent-memory-persistence 4건
에이전트가 장기 작업 중 경험을 스스로 학습하고 최적화할 수 있도록 하는 메모리 운영 레이어와 공유 메모리 솔루션들이 개발되고 있습니다. 특히 에이전트 간 핸드오프와 지속적인 상태 유지를 위해 데이터 무결성을 보장하는 구조적 접근이 강조되고 있습니다.
- [github_trending] akitaonrails/ai-memory — Solution for long term memory for agent coding CLIs and to facilitate handoff between different agent vendors
- [arxiv] MindMemOS: A Portable and Self-Evolving Memory Operating Layer for AI Agents
- [arxiv] Governed Persistent Memory: Source-Bound State Semantics and Fail-Closed Release for Long-Horizon Agents
local-agentic-models 4건
소비자용 GPU나 엣지 환경에서 구동 가능한 초경량 에이전트 모델들이 대거 출시되면서, 클라우드 의존도를 낮추고 온디바이스에서 복잡한 도구 호출과 화면 인식을 수행하는 방향으로 개발 흐름이 이동하고 있습니다.
- [huggingface] Meta is back with Muse Glimmer: local, agentic, multimodal, and open source
- [marktechpost] Meet Needle 2: An Open 45M-Parameter Tool-Calling Model That Ships as a 14MB Binary and Runs a Full Session in 28MB of RAM
- [huggingface] LFM2.5-VL-3B for Better and Faster Vision Capabilities for the Edge
agent-orchestration-frameworks 4건
다양한 도구와 모델을 에이전트 환경에 통합하고 트래픽을 라우팅하는 프레임워크들이 주목받고 있습니다. 개발자들은 특정 모델에 종속되지 않는 유연한 인프라를 구축하고, 에이전트 간 협의를 위한 그래프 기반 프레임워크를 통해 복잡한 작업을 자동화하려 합니다.
- [github_trending] NVIDIA-NeMo/Switchyard — Switchyard lets LLM applications route traffic across models and providers while preserving native OpenAI and Anthropic API compatibility
- [arxiv] BoardroomAI: Dependency-Aware Human-Steerable Multi-Agent Deliberation through Evolving Decision Graphs
- [github_trending] ToolJet/ToolJet — ToolJet is the open-source foundation of ToolJet AI - the enterprise app generation platform
당일 수집된 원문 아이템 (59건)
jundot/omlx — LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar
Apple Silicon에서 연속 배칭과 SSD 캐싱을 지원하며 macOS 메뉴바에서 관리 가능한 LLM 추론 서버 omlx.
harry0703/MoneyPrinterTurbo — 利用 AI 大模型和自动化工作流，根据主题或关键词一键生成高清短视频。Generate HD short videos from a topic or keyword with an automated AI workflow.
주제나 키워드를 입력하면 AI 모델과 자동화 워크플로우를 통해 고화질 숏폼 영상을 생성해주는 도구입니다.
DeepSeek AI Releases DeepSeek Harness in Developer Preview: An MIT-Licensed Agent Harness Where Everything is a Plugin
DeepSeek AI가 모든 기능을 플러그인 방식으로 구현한 MIT 라이선스 기반의 에이전트 하네스 DeepSeek Harness v0.1을 개발자 프리뷰로 공개했다.
The Defender’s Window
AI가 사이버 보안 분야에 미치는 영향을 분석하고 OpenAI의 방어 체계 강화 방안과 보안 팀을 위한 대응 지침을 제시한다.
OpenAI joins PORTS-Pike project
OpenAI가 지역사회 투자 확대와 일자리 창출을 위해 PORTS-Pike 프로젝트에 참여한다.
Stable Miscalibration in Large Language Models: A Practical View of High-Confidence Errors
대규모 언어 모델의 자신감 있는 오답이 작은 변화에도 유지되는 안정적 오교정(stable miscalibration) 현상을 분석하고 이를 진단하는 두 가지 기법을 제안한 연구.
Measuring Cross-Task Behavioral Consistency in Language Model Agents
LLM 에이전트의 작업 간 행동 일관성을 측정하기 위한 새로운 지표인 BCM(Behavioral Consistency Metric)을 제안한 논문.
Active Perception for Embodied Disambiguation
로봇이 환경 내 모호성을 해결하기 위해 능동적 관찰과 시각-언어 모델을 활용하는 능동 지각 프레임워크를 제안한 논문.
No Universal Signal Predicts Sample-Level LLM Regression under Version Updates
LLM 버전 업데이트 시 발생하는 개별 샘플의 성능 퇴보를 추론 시점의 신호들로 예측할 수 있는지 분석한 연구 논문.
How Compliant is Sepsis Treatment? An Expert-Guided Neuro-symbolic Pipeline for Generating Clinical Compliance Insights
패혈증 치료 프로토콜 준수 여부를 평가하기 위해 LLM과 퍼지 추론 시스템을 결합한 전문가 가이드 신경 기호학 파이프라인을 제안한 논문.
Algorithm Design and Physician Liability
의료 분야 AI 알고리즘의 편향된 정확도와 그에 따른 의사의 책임 소재가 AI 기업의 알고리즘 설계 및 의료진의 AI 도입 결정에 미치는 영향을 분석한 연구 논문.
Your Probabilistic JEPA Is Secretly a Hidden Markov Model: A State-Space Interpretation of Joint-Embedding Predictive Learning
확률적 JEPA 모델이 은닉 마르코프 모델(HMM)과 구조적으로 동일함을 증명하고 이를 구체화한 연구 논문.
Reward Machines for Signal Temporal Logic
신호 시간 논리(STL) 기반 제어 합성의 한계를 극복하기 위해 강화학습에서 리워드 머신을 활용하는 새로운 기법을 제안한 논문이다.
Exploring ESC Winners with Nested Diagrams
형식 개념 분석(Formal Concept Analysis)을 수행하고 중첩된 선 다이어그램을 시각화하는 파이썬 라이브러리 ConceptFlow를 소개한다.
Ontology-Grounded Project Memory for Coding Agents
코딩 에이전트가 소프트웨어 변경 이력을 지식 그래프 형태로 기억하고 추론할 수 있도록 돕는 시스템인 MOOSEDev를 제안한 논문.
Learning to Assemble Novel Structures with Unfamiliar Parts under Semantic Constraints
배포 후 사용자와의 상호작용을 통해 새로운 의미론적 제약을 학습하고 생소한 부품으로 구조물을 조립하는 신경기호학적 아키텍처를 제안한 논문이다.
Explanation Multiplicity: Circuit-Level Interpretability Evidence Does Not Survive Defensible Analytic Variation
동일한 시스템과 도구를 사용하더라도 분석가 설정에 따라 회로 수준의 해석 가능성 결과가 달라질 수 있음을 분석한 연구 논문.
Simulation-Aware In-Context Policy Improvement for LLM-Aided Analog Layout Refinement
LLM을 활용하여 아날로그 IC 레이아웃 설계를 최적화하고 시뮬레이션 효율을 개선하는 새로운 기법을 제안한 연구.
From Passive Delegates to Strategic Negotiators: Reinforcing Social Reasoning in Small Language Models with SocialRL
소형 언어 모델의 사회적 추론 능력을 강화하여 협상 등 전략적 작업 수행을 돕는 학습 방법론 SocialRL을 제안한 논문.
Joint Optimization of Memory and Computing Frequency for Energy-Efficient DNN Inference
모바일 기기의 에너지 효율적인 DNN 추론을 위해 메모리 및 연산 주파수를 공동 최적화하는 기법을 제안한 논문.
MemoryLake on MemoryArena: A Matched Study of Agent Memory Backends
에이전트 메모리 백엔드의 성능을 다중 세션 작업 완수 관점에서 비교 분석한 MemoryArena 기반의 연구 논문.
When Personal Memory Has No Single Answer: Evaluating LLM Agents under Irreducible Conflict
LLM 에이전트의 개인 메모리 간 충돌 상황을 평가하기 위한 새로운 벤치마크 TANGLE을 제안한 논문.
Never the Number: Structural Abstention for AI Systems Whose Answers Are Consumed as Fact
LLM의 환각 문제를 해결하기 위해 생성된 결과의 신뢰성을 판단하고 구조적으로 답변을 거부하는 'trusted kernel with a generative shell' 아키텍처 패턴을 제안했다.
Implementing Computational Law in Wolfram Language for the Governance of Artificial Intelligence
Wolfram Language를 이용해 AI 거버넌스를 위한 구체화된 입출력 논리(Reified I/O Logic)를 구현하고 GPT-4의 법적 문장 변환 능력을 검증한 논문.
Regime-Conditional Verification: Correctness Estimation for Adapting and Monitoring Safety Classifiers
안전 분류기를 재학습 없이 최적화하고 배포 환경의 분포 변화를 감지하는 기법인 Regime-Conditional Verification(RCV)을 제안한 논문.
Simulation-Driven Vehicular Traffic Data Augmentation: Extending Sensor Coverage Through Virtual Sensing
물리적 센서 데이터를 가상 센서로 대체하여 교통 데이터의 공간적 커버리지를 확장하는 시뮬레이션 기반 데이터 증강 방법론을 제안한 논문.
Residual Dominance as a Structural Account of Last-Item Reliance in Causal Self-Attention Recommenders
인과적 셀프 어텐션 기반 추천 모델에서 나타나는 마지막 항목 편향 현상을 잔차 지배(residual dominance) 개념을 통해 분석한 연구 논문.
Agent-Orchestration in Autonomous Chip Design
칩 설계 분야에서 AI 에이전트를 활용하기 위한 'AI 조직' 기반의 초지능 모델링 방안을 제안하는 논문.
Demystifying Agent Skills: Why They Work-Until They Don't
LLM 에이전트의 스킬이 언제 효과적이고 왜 작동하며 어디서 실패하는지 분석한 연구 논문.
Scaling Domain Data Repetition in LLM Pretraining
LLM 사전 학습 시 고품질 도메인 데이터 반복이 모델 성능에 미치는 영향과 과적합 간의 상충 관계를 분석한 연구.
Mandato: Protocol-Level Enforcement of Digitally Signed Mandates on AI Agent Actions with Cryptographically Chained Audit Trails
AI 에이전트의 도구 호출을 프로토콜 수준에서 디지털 서명 기반으로 제어하고 감사하는 거버넌스 프록시 Mandato를 제안한 논문.
A Pathway to General-Purpose Scientific AI: Multimodal Comprehension of Scientific Images
과학적 이미지의 해석 및 정보 추출 능력을 평가하기 위한 ALD/E-ImageMiner 벤치마크와 관련 과제들을 소개한 논문.
Retrieval Grounding Latent Reasoning for Dense Retrieval
밀집 검색을 위해 중간 잠재적 추론 과정과 검색 결과를 명시적으로 연결하는 프레임워크인 RGLT를 제안한 논문.
A Year in LLM Serving: Workload Evolution, Caching and Load-Balancing
1년간의 실제 운영 데이터를 분석하여 LLM 서빙 워크로드의 진화 과정과 사용자 상호작용 패턴을 연구한 논문.
Cross-Disciplinary Taxonomy and Modeling of Misunderstanding Generation, Amplification, and Detection, from Pragmatics to AI Agents
다양한 학문 분야를 통합하여 AI 에이전트 간 소통 과정에서 발생하는 오해의 생성, 증폭 및 탐지 과정을 11가지 실패 모드로 분석한 논문.
MobileMem: Learning from a Year of Mobile Experiences
모바일 환경에서 AI 에이전트의 장기 기억 학습 및 평가를 위한 벤치마크이자 프레임워크인 MobileMem을 제안한 논문.
Evaluating Agentic Learning Harness Capabilities Without Labels via the Scaling Hypothesis
레이블 없이도 LLM 기반 에이전트의 학습 성능을 평가할 수 있는 엔드투엔드 프레임워크를 제안한 논문.
SemPlan: Benchmarking Structured Semantic Planning for LLM-Based Queries over Enterprise Data
기업 데이터에 대한 LLM 기반 질의의 구조적 의미론적 계획 수립을 평가하기 위한 벤치마크인 SemPlan을 소개한다.
ARC: Fair Relative Advantage Comparison in Open-Ended Real-World Interaction
개방형 상호작용에서 보상 모델의 편향을 완화하기 위해 전략 조건부 롤아웃 그룹화 기법인 ARC를 제안한 논문.
A Calibrated Test of Internal Action Maps: State Signals Without Global Affine Closure
내부 행동 지도의 보정 상태를 테스트하고 Qwen 모델을 통해 구조적 곡률과 클로저 게이트의 한계를 분석한 연구.
Second Thought: Reasoning in Parallel as LLM Agents Act and Observe
LLM 에이전트의 행동 및 관찰 대기 시간을 활용하여 병렬 추론을 수행하는 추론 프레임워크 Second Thought를 제안한 논문.
Coverage Aware Active Evaluation for Failure Discovery with Paired Systems
프록시 시스템의 평가 결과를 활용해 타겟 시스템의 실패를 효율적으로 발견하는 적응형 실패 탐색 방법론을 제안한 논문.
FLARE MCMC: Fidelity-based Layer-Adaptive REcursive proposals for MCMC
계산 효율성을 높이기 위해 저충실도 근사를 활용한 다중 충실도 계층형 MCMC 기법인 FLARE MCMC를 제안한 논문.
SDO: Subspace Deconflicting Operator for Multi-Adapter Composition
다중 어댑터 합성 시 발생하는 파라미터 간 간섭 문제를 해결하기 위해 부분 공간 충돌을 방지하는 연산자 SDO를 제안한 논문.
AI Research Preference Models
머신러닝 실험의 GPU 비용을 절감하기 위해 실행 전 후보 모델의 가치를 예측하는 AI 연구 선호도 모델(RPM)을 제안한 논문.
HELIX: Model-Harness Co-evolution for Recursive Self-Improvement
모델과 하네스를 함께 진화시켜 재귀적 자기 개선을 유도하는 HELIX 시스템을 제안한 논문.
Nanbeige4.2-3B on Apple Silicon: Fixing Deployment Bugs and Decreasing Looped Transformer Memory Overhead
Nanbeige4.2-3B 모델의 배포 버그를 수정하고, Looped Transformer 구조에서 발생하는 메모리 오버헤드를 줄이기 위한 청크 기반 프리필 전략을 제안한 논문.
Content Depth Matters in Short-Video Recommendation: Rethinking the Attention Economy
숏폼 영상의 콘텐츠 깊이를 정량화하기 위해 새로운 지표인 콘텐츠 깊이 점수(CDS)를 제안한 연구.
Modular Cognitive Architecture Emerges in Large Language Models
대규모 언어 모델(LLM)이 인간의 뇌와 유사한 인지 모듈화 구조를 발달시키는지 검증한 연구 논문.
Benchmarking data-driven material models on the classic Treloar dataset
Treloar 데이터셋을 활용하여 다양한 머신러닝 기반 초탄성 모델링 프레임워크들의 성능, 비용 및 구현 용이성을 비교 분석한 논문.
Buy the Rumor, Sell the News: When Is News Priced In?
457만 개의 금융 뉴스 데이터를 분석하여 시장이 새로운 정보를 가격에 반영하는 시점과 방식에 대해 연구한 논문.
Inducing Reward-Free Judging Rubrics that Reduce Over-Crediting in Agent Evaluation
에이전트 평가 시 과도한 점수 부여를 방지하기 위해 실제 결과에 기반하여 판단 기준을 자동으로 생성하는 RubricForge 기법을 제안한 논문.
Depth-Aware Sensitivity Analysis of Mixture-of-Experts Models via Magnitude-Based Expert Masking
Mixture-of-Experts 모델의 계층별 민감도를 분석하고, 모델의 깊이에 따라 전문가의 중요도가 달라진다는 사실을 규명한 연구이다.
Agentao: A Governed Local-First Runtime for Tool-Using LLM Agents
LLM 에이전트의 권한 관리와 안전한 도구 사용을 위한 거버넌스 기반 로컬 퍼스트 런타임 Agentao를 제안한 논문.
AI Evaluation Should Work With Humans
인간을 대체하는 것이 아닌 인간과 AI의 협업 능력을 평가하는 방향으로 AI 평가 패러다임을 전환해야 한다고 주장하는 논문.
New policy ideas for the Intelligence Age
OpenAI가 인공지능 시대의 경제적 기회와 사회적 회복력을 강화하기 위한 14개의 독립적인 AI 정책 연구 프로젝트에 자금을 지원한다.
Markdown SVG upgrades
Simon Willison이 마크다운 내 SVG 렌더링을 지원하도록 발전시킨 markdown-svg-renderer 도구의 업데이트 내용을 소개한다.
Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things
알리바바의 새로운 오픈소스 모델 Qwen 3.8 27B의 성능과 특징, 그리고 과도한 사고 경향에 대한 분석 글입니다.
Quoting Dario Amodei
앤스로픽 CEO 다리오 아모데이가 AI에 대한 대중의 부정적 시각은 AI 위험성에 대한 경고 때문이 아니라, 기술 기업과 정부에 대한 근본적인 신뢰 위기에서 비롯된 것이라고 분석했다.