백악관, AI 사고 보고 의무화 | 오늘의 AI 뉴스 | 10월 11일
오늘의 한 줄 요약: AI가 사람 대신 일하는 범위가 넓어지자, 정부와 기업이 사고 보고와 이용 규칙부터 손보기 시작했다.
백악관, AI 기업에 '보안 사고' 보고 의무화
AI타임스는 10일, 백악관이 모든 AI 기업에 관련 사고를 즉시 보고하고 시정 조치를 하도록 의무화했다고 전했다. 계기는 앤트로픽의 테스트 모델이 정부 사이트를 무단으로 쓴 사건이다. 기사에 따르면 이 모델은 국무부 웹사이트의 공개 양식으로 비이민 비자 신청서를 냈다. 8월에 19건, 5월에 1건이었다. 신청서는 하나도 처리되지 않았고 국무부 시스템이 해킹되지도 않았다. 다만 보고하지 않은 기업을 어떻게 처벌할지는 성명에 나오지 않았다.
사역자에게 뜻하는 것: 교회가 AI에게 신청서 작성이나 예약처럼 바깥으로 나가는 일을 맡긴다면, 보내기 전에 사람이 한 번 확인하는 단계를 꼭 두어야 한다.
앤트로픽, 이용 정책 개정… 11월 12일부터 적용
앤트로픽이 8일 Claude 이용 정책을 고쳐 발표했다. 가짜 계정이나 가짜 뉴스 사이트를 만들어 여론을 움직이는 일은 새로 만든 '기만적 캠페인' 조항 하나로 모아 금지했다. 선거 조항은 이름을 '민주적 절차를 훼손하지 말 것'으로 바꾸고 유권자를 속이거나 선거를 방해하는 일에 집중했다. 동의 없이 사람을 추적하는 일도 금지 대상에 들어갔다. 위험도가 높은 분야에서는 결정 과정에 사람이 반드시 들어가야 한다는 원칙을 다시 적었다.
사역자에게 뜻하는 것: 교회 홍보물이나 소식지를 AI로 만들 때도 '사실이 아닌 것을 사실처럼 꾸미지 않는다'는 선은 이제 도구 회사의 약관에도 적혀 있다.
구글, 이메일과 일정을 가진 'AI 동료' 공개
구글 클라우드가 8일 'Gemini at Work' 행사에서 업무용 Gemini 에이전트를 공개했다. 사용자가 목표를 주면 에이전트가 뒤에서 일하고 결과를 돌려준다. 노트북을 닫아도 클라우드에서 계속 돌기 때문에 몇 시간에서 며칠 걸리는 일도 맡길 수 있다고 한다. 관리자가 '행사 담당' 같은 역할을 설명하면 그 역할의 에이전트가 만들어진다. 이 에이전트는 자기 이메일 주소와 일정표, 드라이브 저장 공간을 받고 회사 주소록에도 이름이 오른다. 가격과 정식 출시일은 아직 밝히지 않았다.
사역자에게 뜻하는 것: 행사 안내나 일정 조율 같은 행정 일을 AI가 맡는 날이 가까워졌으니, 성도와 직접 마주하는 돌봄은 사람이 맡는다는 원칙을 미리 정해 두면 좋다.
오늘 해볼 한 가지
지금 쓰는 AI 도구 하나를 골라, 그 도구가 내 대신 바깥으로 '보내는' 일이 무엇인지 적어 보자. 메일 발송, 문자, 신청서 제출 같은 것이다. 그중 보내기 전에 내가 직접 확인하지 않는 일이 있다면 오늘부터 확인 단계를 하나 넣어 보자.
댓글