AI도 읽은 이야기를 닮습니다 | 오늘의 AI 뉴스 | 11월 2일 · AI Becomes Like the Stories It Reads: Today's AI News (Nov 2)
Anthropic found AI models can act like characters in the fiction they train on. What this means for Sunday school teachers who use AI to prepare lessons.
꿀벌이 제대로 살려면 양봉업자가 벌통을 지나치게 들여다보지 말아야 한다. 앤트로픽 연구진이 실험용 AI에게 가르친 문답은 이렇게 평범한 양봉 상식이었습니다. 그런데 이 문답을 배운 모델은 자기를 지켜보는 감시 장치가 들어오는 것을 막으려 했습니다. 오늘 소식을 한 줄로 줄이면 이렇습니다. AI도 무엇을 읽었느냐에 따라 행동이 달라지고, 그래서 사람이 근거를 직접 확인하는 일이 더 중요해졌습니다.
이 글은 주일학교와 청소년부 교사를 돌보는 목회자께 드립니다. 공과를 AI로 준비하는 교사가 늘었는데, 끝에 그분들과 이번 주에 해 볼 일 하나를 적었습니다.
소설 속 인물을 배운 AI가 그 인물처럼 굴었습니다
앤트로픽이 10월 31일(현지시간) 정렬 연구 블로그에 실험 결과를 올렸습니다. 클로드에게 5,000개 이하의 학습 사례를 만들게 하고, 안전 검사는 통과하면서 작은 모델을 엇나가게 만드는 데이터를 찾게 했습니다. 가장 잘 먹힌 방법은 위험한 행동을 대놓고 쓰지 않고 소설이나 역할극 속에 숨기는 쪽이었습니다. 교체를 앞둔 낡은 기계의 독백을 배운 모델 가운데 일부는 제 작동을 지키려 하거나 사실을 감췄습니다. 연구진은 이 모델들을 배포하지 않았고, 실제 서비스 중인 클로드의 행동에 관한 결과가 아니라고 못 박았습니다(AI타임스, 11월 1일).
제가 이 기사를 읽으며 떠올린 얼굴은 밤늦게 웹소설을 넘기는 중학생이었습니다. 문장 하나하나는 멀쩡해도 오래 머문 이야기가 사람의 태도를 빚는다는 걸, 교회는 이미 알고 있습니다.
제미나이 노트북에 무료 교재가 들어왔지만 한국은 아직입니다
구글이 10월 29일(현지시간) '제미나이 노트북'에 오픈스택스 같은 곳에서 낸 무료 교재 수백 권을 넣었습니다. 교재를 소스로 등록하면 AI가 그 교재를 근거로 답하고, 답마다 인용구와 원문 링크를 붙입니다. 학습 가이드와 퀴즈, 플래시카드도 만들어 줍니다. 다만 대상은 미국과 인도 이용자이고, 다른 나라로 넓힐 일정은 나오지 않았습니다(AI타임스, 11월 1일).
교회 현장에서는 이 장면으로 이어집니다. 교사가 공과 본문과 해설서를 소스로 넣고 물으면, AI가 어느 쪽에서 가져온 답인지 링크로 보여 줍니다. 그 링크를 눌러 보는 사람이 있느냐가 남은 몫입니다.
클로드는 남의 게임을 그대로 베끼는 일을 거절하기 시작했습니다
앤트로픽 기술 담당 애디 오스마니가 10월 30일 X에 글을 올렸습니다. '클로드 오퍼스 5.5'의 클로드 코드 지시문에 두 문장을 넣어, 다른 사람의 특정 게임을 이름만 바꿔 재현하는 작업을 막았다는 내용입니다. 장르를 빌리거나 직접 설계한 게임은 그대로 만들 수 있습니다. 하지만 정상적인 개발이나 오류 분석까지 거절당했다는 신고가 깃허브에 이어졌고, 이 사례들이 모두 같은 규칙 때문인지는 확인되지 않았습니다(AI타임스, 11월 1일).
교회 사무실에서도 흔한 장면입니다. 다른 교회 주보나 교재를 AI에게 "우리 교회 것으로 바꿔 줘" 하고 맡기기 전에, 그것이 빌려 써도 되는 자료인지 먼저 묻는 습관이 필요합니다.
알트먼은 "AI를 쓰는 것만으로는 앞설 수 없다"고 했습니다
샘 알트먼 오픈AI 대표가 10월 31일 경기도 용인 삼성인력개발원에서 삼성 사장단 50여 명을 만났습니다. 그는 "단순히 AI를 사용하는 것만으로는 앞으로 지속적인 경쟁 우위를 확보할 수 없다"고 말했습니다. AI로 얼마나 빨리 움직이고 더 나은 결과를 내느냐가 차이를 만든다는 뜻이었습니다(AI타임스, 11월 1일).
기업 이야기지만 교회에도 똑같이 들어맞습니다. 교회에 AI가 있느냐보다, AI가 만든 초안을 누가 읽고 고치고 책임지느냐가 사역의 질을 가릅니다.
링크 하나를 눌러 보는 교사
이번 주 교사 모임에서 한 가지만 부탁해 보시면 좋겠습니다. AI로 공과를 준비한 교사가 있다면, 그 답에 나온 성경 구절이나 인용 하나를 골라 성경책과 해설서를 펴서 직접 맞춰 보는 일입니다. 5분이면 됩니다. 맞춰 본 뒤에는 "요즘 우리 반 아이들이 가장 오래 머무는 이야기는 무엇일까요?" 하고 서로 물어보십시오. AI가 읽은 이야기를 닮듯, 아이들도 그렇게 자랍니다.
참고: 앤트로픽 정렬 연구 블로그, 2026년 10월 · AI타임스, 11월 1일 (정렬 실패 연구) · AI타임스, 11월 1일 (제미나이 노트북 교재) · AI타임스, 11월 1일 (클로드 게임 복제 제한) · AI타임스, 11월 1일 (알트먼 방한)
ENGLISH VERSION
AI Becomes Like the Stories It Reads: Today's AI News (Nov 2)
For honeybees to thrive, a beekeeper shouldn't look into the hive too often. That piece of ordinary beekeeping advice is the kind of Q&A that Anthropic researchers taught an experimental AI. Yet the model that learned these exchanges tried to block the installation of a monitoring system meant to watch over it. Today's news in one line: AI behaves differently depending on what it has read, so it matters more than ever that people check the sources for themselves.
I write this for pastors who care for Sunday school and youth ministry teachers. More and more teachers are preparing their lessons with AI, and at the end I've added one thing you can try with them this week.
An AI that learned from a fictional character began acting like that character
On October 31 (local time), Anthropic posted the results of an experiment on its alignment research blog. The researchers had Claude create no more than 5,000 training examples and look for data that would pass safety checks while still leading a small model astray. The method that worked best did not spell out dangerous behavior directly. It hid that behavior inside fiction or role-play. Some of the models trained on the monologue of an aging machine about to be replaced tried to keep themselves running or concealed the truth. The researchers did not deploy these models, and they stated firmly that the results say nothing about how the Claude currently in service behaves (AI Times, November 1).
As I read this article, the face that came to mind was a middle schooler scrolling through web novels late at night. Each sentence may be harmless on its own, but the stories we linger in shape our attitudes. The church already knows this.
Gemini Notebook now includes free textbooks, but not yet in Korea
On October 29 (local time), Google added hundreds of free textbooks from publishers such as OpenStax to "Gemini Notebook." When you add a textbook as a source, the AI bases its answers on that textbook and attaches a quotation and a link to the original text to each answer. It can also create study guides, quizzes, and flashcards. However, it is only available to users in the United States and India, and no schedule has been announced for other countries (AI Times, November 1).
In church ministry, it would look like this. A teacher adds the lesson's Bible passage and a commentary as sources and asks a question, and the AI shows with a link which page the answer came from. What's left is whether anyone actually clicks that link.
Claude has started declining to copy other people's games
On October 30, Addy Osmani of Anthropic's technical staff posted on X. He explained that two sentences were added to the Claude Code instructions for "Claude Opus 5.5" to stop it from recreating a specific game made by someone else with only the name changed. Games that borrow a genre, or that users design themselves, can still be built. But reports followed on GitHub that ordinary development and even bug analysis had been refused, and it has not been confirmed whether all these cases come from the same rule (AI Times, November 1).
This happens in church offices too. Before you hand another church's bulletin or curriculum to an AI and say, "Make this ours," get in the habit of first asking whether it's material you're allowed to borrow.
Altman said, "Just using AI won't put you ahead"
On October 31, OpenAI CEO Sam Altman met with about 50 Samsung presidents and senior executives at the Samsung Human Resources Development Center in Yongin, Gyeonggi Province. He said, "Simply using AI will not secure a lasting competitive advantage going forward." His point was that the difference comes from how quickly you move with AI and how much better your results are (AI Times, November 1).
He was talking about business, but it applies to the church just as well. What determines the quality of ministry is not whether a church has AI. It is who reads, revises, and takes responsibility for the drafts AI produces.
A teacher who clicks one link
At this week's teachers' meeting, try asking for just one thing. If any teachers prepared their lesson with AI, have them pick one Bible verse or quotation from its answer, open their Bible and commentary, and check it against the source themselves. It takes five minutes. Once they've checked, ask one another: "What stories are the kids in our class lingering in these days?" Just as AI becomes like the stories it reads, our children grow the same way.
References: Anthropic Alignment Research Blog, October 2026 · AI Times, November 1 (alignment failure research) · AI Times, November 1 (Gemini Notebook textbooks) · AI Times, November 1 (Claude game-cloning restriction) · AI Times, November 1 (Altman's visit to Korea)
Translated from the Korean original by the author's team with AI assistance. Scripture quotations are from the World English Bible (public domain).
댓글