AI Tech Blog

From AI/ML fundamentals to deep dives: paper reviews, AWS architectures, and practical guides by Jesam Kim
작은 철도 분기 장치의 내부 회로를 살펴보는 기술자와 멀리 연결된 관제소

Strands Decider 2B와 Jev 비교: 공개 구조와 GPU 실험

에이전트가 도구를 호출하기 전에는 작은 판단이 반복됩니다. 문의를 어느 담당자에게 보낼지, 도구 인자를 사용자가 실제로 말했는지, 추가 질문이 필요한지 결정해야 합니다. 이런 단계에는 긴 답변보다 프로그램이 바로 읽을 선택지와 확률이 유용합니다. AWS Strands 팀은 2026년 10월 1일, 이런 용도를 위한 Strands Decider 2B를 공개했습니다. 로컬 CPU나 GPU에서 실행할 수 있고, 모델 구성과 학습 방법을 살펴보며 수정할 수 있는 판단 모델입니다. TypeSafe의 Jev와 같은 종류의 문제를 다루며, Jev가 관리형 API로 제공되는 데 비해 Decider는 개발자가 직접 모델을 배포하고 운영합니다. ...

2026년 10월 7일 · 9 분 · Jesam Kim
들어온 물건을 여러 센서가 함께 살펴보고 정해진 경로로 분류하는 복고풍 로봇

Jev: 판단 전용 AI의 원리와 활용

고객이 “어제 주문한 물건을 취소하고 싶습니다”라고 썼습니다. 프로그램에는 몇 가지 판단이 필요합니다. 주문 취소 요청인지, 이미 배송한 주문인지, 바로 처리할 수 있는지 확인해야 합니다. 고객에게 보낼 답장을 쓰기 전에도 이런 결정이 여러 번 일어납니다. TypeSafe AI가 2026년 9월 15일 early access로 공개한 Jev는 프로그램이 사용할 판단값을 반환하는 AI 모델입니다. 개발자가 상황과 질문을 보내면, 정해진 선택지와 점수, 확률로 결과를 돌려줍니다. 회사는 이 모델 계열을 ‘System One Model’이라고 부릅니다. 이 글은 2026년 9월 22일 확인한 공식 문서와 업체 평가를 기준으로 작성했습니다. ...

2026년 9월 22일 · 21 분 · Jesam Kim
해안 시험장에서 여러 광학 장비로 연구용 글라이더를 관측하는 장면

Amazon Bedrock의 GPT-6 Astra: 정렬 평가와 감시 가능성

Amazon Bedrock에서 GPT-6 Astra를 사용해 문서를 수정하거나 여러 도구를 실행하는 에이전트를 만든다고 생각해 보겠습니다. 모델이 지시를 잘 따르는지 확인하는 일과, 잘못된 행동이 발생했을 때 알아낼 수 있는지 확인하는 일은 서로 다릅니다. 허용한 파일만 수정하는 모델을 고르는 것과 실제 수정 대상을 기록하고 검사하는 작업을 함께 해야 합니다. GPT-6 Astra는 2026년 9월 8일 Amazon Bedrock에서 정식 출시됐습니다. 앞서 공개된 OpenAI 안전성 평가는 정렬 평가 결과가 개선됐다고 보고하는 동시에, CoT 기반 감시 가능성이 상당히 낮아졌다고 밝혔습니다. Bedrock에서 이 모델을 운영할 때는 모델 평가 결과, 서비스의 보호 조치, 애플리케이션이 남기는 기록을 구분해서 읽을 필요가 있습니다. ...

2026년 9월 14일 · 7 분 · Jesam Kim
같은 붉은 장난감 새를 그린 여러 셀을 라이트 테이블 위에서 맞추는 애니메이션 작업실

반복 편집에서 원본을 지키는 법: ChatGPT Images 2.5와 참조 이미지 관리

이미지에서 로봇의 색을 바꾼 뒤, 배경의 작은 달도 지우려고 합니다. 다음 편집에 전달할 이미지는 처음 만든 원본일까요, 로봇의 색을 바꾼 수정본일까요. 둘 다 넣는다면 어느 이미지의 어떤 요소를 따라야 하는지도 알려줘야 합니다. 원본만 보면 새로 확정한 색이 빠지고, 수정본만 기준으로 삼으면 그 과정에서 바뀐 세부 사항을 놓칠 수 있습니다. 2026년 9월 8일 공개된 ChatGPT Images 2.5는 참조 사진의 대상 보존과 정밀 편집, 여러 차례 편집할 때의 일관성 개선을 강조합니다. 이 글에서는 그 발표와 개발자 문서를 바탕으로, 편집에 사용할 이미지와 유지할 조건을 어떻게 구분할지 살펴봅니다. 이어서 기존 블로그 커버를 실제로 두 단계 편집한 예시를 비교합니다. ...

2026년 9월 14일 · 6 분 · Jesam Kim
같은 모양의 메시지 캡슐을 하나의 보관소로 모으고 일부는 다른 보관소로 보내는 우주 정거장

캐시를 켰는데도 LLM이 느린 이유: Prefix-aware Routing의 원리

LLM 서버에서 prefix caching을 켰습니다. 같은 시스템 프롬프트를 반복해서 보내면 이미 계산한 부분을 재사용할 수 있습니다. 그런데 서버를 여러 대로 늘린 뒤에는 캐시를 켜기 전과 응답 속도가 크게 다르지 않습니다. 이런 상황을 가정해 보겠습니다. 첫 요청은 서버 A로 들어갔고, 같은 프롬프트로 시작하는 다음 요청은 서버 B로 들어갔습니다. A에 계산 결과가 남아 있어도 B가 그 결과를 사용할 수 없다면, B는 같은 부분을 다시 계산해야 합니다. 캐시 기능과 요청을 보내는 방식이 서로 맞지 않는 상황입니다. ...

2026년 9월 11일 · 6 분 · Jesam Kim
기록된 에이전트 실행을 재생하고 분기하는 디버깅 타임라인

에이전트 디버깅을 재설계하다: OrcaReplay 아키텍처와 실전 활용

에이전트가 실행을 마치면 터미널 창은 닫힙니다. 그 안에서 어떤 파일이 왜 바뀌었는지 알고 싶을 때 관찰 대시보드는 비용, 토큰 수, 지연 시간을 보여 줍니다. “왜 그 파일을 삭제했나"라는 질문에는 침묵합니다. 2026년 9월 2일, OrcaRouter(Continuum AI Corp)가 이 문제를 겨냥한 오픈소스 도구를 발표했습니다. OrcaReplay는 AI 에이전트 실행을 전체 이벤트 스트림으로 기록하고, 기록된 그대로 네트워크를 차단한 채 재현하며, 특정 지점부터 다른 모델로 분기(fork)하는 CLI 도구입니다. 라이선스는 Apache-2.0(코드), CC BY 4.0(트레이스 포맷)입니다. 이 글에서는 OrcaReplay의 캡처 아키텍처, 주요 명령어와 출력 형식, LangChain/LangGraph 에코시스템과의 연결성, 그리고 현재 상태와 한계를 정리합니다. 설치와 명령어 예시는 공식 README(2026-09-04 기준)에서 직접 확인한 내용을 바탕으로 합니다. ...

2026년 9월 6일 · 7 분 · Jesam Kim
수학 증명, 단백질 구조, 멀티에이전트 네트워크가 하나의 검증 지점으로 모이는 장면

Anthropic 공식 블로그 3편 정리: Claude 연구 자동화의 현재와 검증 과제

지난 몇 년 동안 Claude에게 기대한 역할은 명확했습니다. 질문을 던지면 답이 돌아오고, 그 답의 품질을 사람이 판단하는 구조입니다. 2026년 8월에 Anthropic이 나흘 간격으로 공개한 세 편의 글은 이 구조가 더 이상 전체 그림을 설명하지 못한다는 것을 보여줍니다. 수학 난제에 도전한 리만 가설 연구, 단백질 결합체를 설계하고 분석 화학 데이터를 해석한 단백질 설계 실험, 그리고 45개 에이전트를 동시에 돌려 본 멀티에이전트 시스템 연구입니다. 셋 다 “답을 냈다"는 이야기가 아닙니다. 가설을 여러 개 만들고, 그 가설을 검증할 도구와 다른 에이전트를 부리고, 결과를 다시 사람이나 외부 기관에 검증받는 과정 전체를 Claude가 주도했다는 이야기입니다. ...

2026년 9월 4일 · 10 분 · Jesam Kim
빛나는 경계선 앞에 멈춘 로봇팔이 놓인 실험실

AI 에이전트가 실제 기계를 움직이기 시작했다: Model Hardware Standard와 물리적 권한 설계

소프트웨어 에이전트의 tool call이 실패했을 때 우리가 실제로 하는 일은 재시도입니다. API가 500을 반환하면 다시 호출하고, 파일 쓰기가 깨지면 이전 커밋으로 되돌리고, 잘못된 레코드가 들어가면 트랜잭션을 롤백합니다. 이 습관은 대상이 비트라는 사실에 기대고 있습니다. 비트는 복제할 수 있고, 이전 상태를 보관할 수 있고, 같은 명령을 두 번 실행해도 대체로 같은 결과에 도달합니다. 로봇팔을 5cm 움직이는 명령은 이 전제 중 어느 것도 만족하지 않습니다. 명령이 절반만 실행된 상태에서 재시도하면 팔은 10cm를 움직입니다. 시약 40µL를 분주한 뒤에는 되돌릴 이전 상태가 없고, 시료 자체가 소모됩니다. 레이저 출력을 잘못 올리면 형광 분자가 표백되어 그날의 실험이 끝납니다. 소프트웨어 에이전트 설계에서 익숙해진 “일단 시도하고 실패하면 되돌린다"는 패턴이, 물리 장치에서는 그 자체로 사고의 경로가 됩니다. ...

2026년 8월 29일 · 10 분 · Jesam Kim
에이전트의 여러 실행 궤적이 정책 검증 지점으로 모이는 장면

에이전트 보안은 한 번의 Tool Call로 끝나지 않는다: Per-Action Check에서 Trajectory Assurance로

2026-09-11 정정: A2A와 MCP의 필수 보안 요구사항을 반영하고, 기존 검증 연구와 이력 기반 통제의 적용 범위를 명확히 했습니다. 사내 문서를 검색하고 요약해서 메일로 보내는 에이전트를 하나 상상해 보겠습니다. 이 에이전트에는 세 가지 도구가 붙어 있습니다. 문서 검색, 문서 본문 읽기, 메일 발송입니다. 세 도구는 각각 정당한 권한을 받았고, 호출 한 건씩 떼어 놓고 보면 어느 것도 규칙을 어기지 않습니다. 검색은 읽기 전용이고, 본문 읽기도 사용자가 접근 권한을 가진 문서만 반환하며, 메일 발송은 사용자가 명시적으로 요청한 기능입니다. ...

2026년 8월 23일 · 15 분 · Jesam Kim
에이전트 스킬과 MCP를 한 디렉토리로 묶는 Agent Plugins 패키징 표준

Agent Plugins 1.0: 에이전트 스킬과 MCP를 한 디렉토리로 묶는 패키징 표준

에이전트에 기능을 붙이는 두 조각은 이미 표준이 있습니다. 모델에게 절차적 지식을 주는 Agent Skills와 외부 도구·데이터에 연결하는 MCP입니다. 두 규약 모두 여러 클라이언트가 이미 지원합니다. 그런데 이 조각들을 실제로 배포하려고 하면 예상치 못한 곳에서 마찰이 생깁니다. 컴포넌트 자체는 멀쩡한데 그것을 담는 상자가 클라이언트마다 다르기 때문입니다. 2026년 8월 6일에 발표된 Agent Plugins 1.0.0이 이 상자를 표준화합니다. 오픈이고 벤더에 중립적인 패키징 표준이며, 기술 운영 위원회의 코어 메인테이너는 Amazon, Cursor, Microsoft, OpenAI, Vercel입니다. 발표 이후 Google이 코어 메인테이너로 합류했고, DeepMind의 Kevin Hou가 대표를 맡았습니다. 이 글에서는 표준이 무엇을 정의하고 무엇을 일부러 정의하지 않았는지를 코드 예시와 함께 살펴봅니다. ...

2026년 8월 20일 · 10 분 · Jesam Kim
Some illustrations are generated using Amazon Bedrock image generation models (Nova 2 Omni, SD3.5 Large, Nova Canvas).