구글, AI 속마음 들여다보는 'Gemma Scope 2' 오픈소스 공개

🔍

AI가 왜 그런 답을 했는지 궁금했던 적 있나요? 구글이 AI의 '사고 과정'을 들여다볼 수 있는 도구를 무료로 공개했어요.

무슨 일이야?

구글 딥마인드가 Gemma Scope 2를 오픈소스로 공개했어요. AI 모델이 정보를 어떻게 처리하고, 어떤 근거로 답변을 생성하는지 분석할 수 있는 도구예요.

🔍 해석가능성(Interpretability)이란?
AI가 "왜" 그런 결정을 내렸는지 설명할 수 있게 만드는 연구 분야예요. 블랙박스 같은 AI를 투명하게 만들어요.

AI가 점점 똑똑해지면서 안전 문제가 커지고 있어요. AI가 왜 그런 답을 했는지 모르면:

문제 상황 AI가 틀린 답을 해도 원인 파악 불가 위험한 행동을 사전에 감지 못함 편향된 답변인지 확인 어려움

Gemma Scope 2로 해결
AI 내부 처리 과정 추적 가능
위험 신호 조기 발견
편향 원인 분석 가능

270M~27B 지원 모델 크기 (파라미터)

전 레이어 모든 레이어 분석 가능

Gemma 3 모델의 모든 레이어를 분석할 수 있어요. 입력이 들어와서 출력이 나가기까지 각 단계에서 무슨 일이 일어나는지 볼 수 있어요.

2024

Gemma Scope 1 공개

2025.12

Gemma Scope 2 공개 (Gemma 3 지원)

구글 딥마인드 연구팀

"AI 안전팀이 모델 행동을 입출력 분석에만 의존하지 않고, 내부 특징까지 추적할 수 있게 돼요."

출처: