연구난이도 쉬움OpenAI Research · 10월 8일(목) 공개

가짜 기자·연구기관을 이용한 AI 여론조작 운영 보고

OpenAI가 러시아·이란 발 계정 활동과 공개 자료를 대조해 가짜 기자·연구기관의 영향력 공작을 분석했으며, 잠재적 도달 범위와 실제 여론 변화는 구분해야 합니다.

쉽게 말하면비유하자면 가짜 계정으로 글을 뿌리는 데 그치지 않고, 가짜 기자 명함이나 가짜 연구소 간판을 내걸고 진짜 언론에 자기 메시지를 실으려 한 수법이다. AI는 글 다듬기, 투고 편지, 내부 성과 보고 작성에 쓰였다. 보고서는 운영자의 성과 자랑을 실제로 남은 흔적과 견주어 보았다.

왜 봐야 하나: AI가 글 작성뿐 아니라 가짜 신분으로 기사를 투고하는 일에도 쓰였음을 보여 준다. 편집자나 채용 담당자는 계정 위치, 활동 이력, 조직 정보가 서로 맞는지 대조해 볼 수 있다. 다만 실제 여론이 얼마나 바뀌었는지는 재지 않았다.

이 글은 OpenAI가 2026년 10월에 공개한 안전 보고로, 러시아와 이란에서 시작된 두 건의 은밀한 영향력 공작을 분석한다. 두 공작 모두 AI 모델을 전통적인 위장 단체 운영과 결합해 '위장 조직·신분'을 만들고, 이를 통해 지정학적 메시지를 실제 언론 매체에 심으려 했다. 핵심 결과는 러시아 공작 '다크 클락'이 OpenAI가 처음으로 적발한 확산 5등급(최고 6등급 중)에 해당하며, 이란 공작 '가짜 필자'는 기사 심기 경로에서 4등급, 댓글 경로에서 2등급으로 평가되었다는 점이다. 이 글은 공작자들의 내부 보고를 분석해 그들의 활동 주장 중 무엇이 공개 자료와 맞는지, 어떤 흔적이 남았는지, 그리고 폭로가 왜 방어에 도움이 될 수 있는지 설명한다.

알아낸 것

계정 관측과 공개 자료를 대조한 운영 보고입니다. 두 공작은 AI를 글 작성·기사 투고·내부 성과 보고에 사용했으며, 모든 콘텐츠가 AI로 작성됐다는 뜻은 아닙니다.
확산 분류는 러시아 작업 5, 이란 기사 경로 4, 이란 댓글 경로 2였습니다. 이는 1~6의 유형 분류이며 실제 여론 변화나 영향력 배수가 아닙니다.
이란 관련 7개 필명으로 100건 가까운 기사·재게재가 십여 개 매체에서 확인됐지만, 매체 팔로워 수는 실제 기사 조회수나 설득된 사람 수가 아닙니다.

한계와 주의할 점

OpenAI의 계정 관측·공개 자료 조사에 기반한 운영 보고이며 통제 실험이나 여론 변화의 인과 효과 측정이 아닙니다. 특정 국가에서 시작한 활동이라는 관측이 국가 정부의 직접 지시를 입증하지는 않습니다.
Breakout Scale은 1~6의 확산 유형 분류입니다. 러시아 작업 5, 이란 기사 경로 4, 이란 댓글 경로 2는 백분율이나 영향력 배수가 아닙니다.
공작자의 내부 성과 보고에는 과장과 허위 귀속이 있었고 모든 주장을 외부 자료로 확인하지 못했습니다. 매체 팔로워 수는 잠재적 도달 범위이며 실제 기사 조회·설득 인원이 아닙니다.
본문 PDF 링크 두 개는 과거 위협 보고서 참고문헌이므로 이번 글의 원문 PDF로 첨부하지 않습니다.

용어 풀이

위장 조직·신분(false front): 실제로는 존재하지 않거나 공작자가 통제하는 조직을 독립적인 연구소, 언론인, 시민단체 등으로 위장한 것. 이번 보고에서 러시아의 '사회연구센터'와 이란의 가짜 언론인 필명이 대표적이다. 위장 조직·신분은 실제 언론 매체에 콘텐츠를 실어 신뢰를 얻으려 한다는 점에서 단순 가짜 계정보다 위험하다.
은밀한 영향력 공작(IO): 특정 정치적 목적을 위해 대중의 인식을 조작하려는 비밀 활동. 이번 보고에서는 러시아가 우크라이나의 명성을 훼손하고 라틴아메리카 정치에 개입하려 한 활동, 이란이 미국-이란 갈등에 대한 여론을 조작하려 한 활동이 해당한다.
브레이크아웃 스케일: 영향력 공작의 확산 양상을 1~6 범주로 분류하는 도구. 이 글에서는 러시아 작업을 5, 이란의 매체 기사 경로를 4, 댓글 경로를 2로 평가했다. 공개된 확산 흔적에 근거한 유형 분류이며 사람을 설득한 비율이나 등급 사이의 영향력 배수는 아니다.
무의식적 협력자(unwitting cutout): 자신이 공작의 일부라는 사실을 모른 채 공작자를 위해 일하는 사람. 러시아 공작은 라틴아메리카 현지인을 고용해 연구를 시켰고, 이들은 자신이 러시아 조직을 위해 일한다는 사실을 몰랐다. 이란 공작은 가짜 언론인 필명으로 실제 편집자에게 기사를 투고해 편집자들이 무의식적으로 공작자의 콘텐츠를 퍼뜨리게 했다.
오픈소스 조사(OSINT): 공개적으로 접근 가능한 정보를 수집·분석해 사실을 확인하는 방법. OpenAI는 공작자들의 내부 보고를 검증하기 위해 언론 보도, 팩트체크 기사, 정부 성명, 소셜미디어 투명성 설정 등을 교차 확인했다.

더 깊이 읽기 읽는 데 약 8분

배경과 문제

OpenAI는 지난 2년 반 동안 자사 모델을 이용한 사이버 공격, 은밀한 영향력 공작(IO), 사기 등을 정기적으로 보고해 왔다. 이번 보고는 그중에서도 '위장 조직·신분' 운영에 초점을 맞춘다. 위장 조직·신분이란 실제로는 존재하지 않거나 공작자가 통제하는 조직을 마치 독립적인 연구소나 언론인인 것처럼 꾸며, 그럴듯한 콘텐츠를 만들어 대중에게 유포하는 수법이다. 러시아 공작은 라틴아메리카에서 '사회연구센터(SRC)'라는 가짜 싱크탱크를 운영했고, 이란 공작은 7개의 가짜 언론인 필명으로 기사를 실제 온라인 매체에 투고했다. 두 공작 모두 AI를 이용해 작업 효율을 높였지만, 그 구조는 AI 이전 시대의 고전적 영향력 공작과 매우 유사하다.

실제 매체에 콘텐츠를 실으면 독자가 배후를 모른 채 신뢰할 수 있다는 점이 문제다. OpenAI가 지난 2년 반 동안 공개한 30건의 공작에서는 실제 매체를 이용한 경우가 가짜 소셜미디어 배포 중심인 경우보다 잠재적 도달 범위가 높은 경향을 보였다. 이는 발견된 사례의 비교이며, 모든 공작의 전수 통계나 독자 설득 효과 측정은 아니다.

기존 접근의 한계

이번 사례는 가짜 소셜미디어 계정만 살펴보면 놓칠 수 있는 위장 조직과 기사 투고 경로를 보여준다. 원문이 기존 탐지 방법 전체의 성능을 비교한 것은 아니다. 러시아 공작은 실제로 라틴아메리카 현지인을 고용해 연구를 시켰고, 이들은 자신이 러시아 조직을 위해 일한다는 사실을 몰랐다. 이란 공작은 가짜 언론인 필명으로 실제 편집자에게 기사를 투고했고, 일부 기사는 해당 매체의 소셜미디어 계정을 통해 홍보되기까지 했다. 이런 '무의식적 협력자'를 이용하는 방식은 계정 하나하나를 차단하는 것만으로는 공작 전체를 무너뜨리기 어렵게 만든다.

또한 공작자들은 자신들의 성과를 과장하기 위해 내부 보고서를 조작했다. 이란 공작은 댓글의 실제 조회수가 아니라 댓글을 단 원본 게시물의 조회수를 영향력 지표로 사용했고, 러시아 공작은 자신들과 무관한 사건까지 자신들의 공로로 돌리려 했다. 이런 허위 보고는 외부에서 공작의 실제 영향을 평가하기 어렵게 만든다. OpenAI는 공작자들의 내부 보고를 그대로 믿지 않고, 오픈소스 조사로 교차 검증하는 방식을 택했다. 그 결과 일부 주장은 사실로 확인됐지만, 일부는 확인할 수 없거나 거짓으로 드러났다.

보고서의 조사 과정을 풀어보면

원문에 나온 조사 활동을 이해하기 쉽게 세 부분으로 정리하면 다음과 같다. 엄밀한 수행 순서가 공개된 것은 아니다. 첫째, 자사 모델 사용 계정 중 의심스러운 활동을 보이는 클러스터를 식별해 차단했다. 러시아 공작은 VPN을 통해 접속했고, 이란 공작도 VPN으로 위치를 숨겼다. 둘째, 차단된 계정의 프롬프트와 생성물을 분석해 공작의 목적과 수법을 파악했다. 예를 들어 러시아 공작은 주로 내부 보고서 작성에 ChatGPT를 사용했고, 이란 공작은 기사 다듬기와 투고 이메일 작성에 사용했다. 셋째, 공작자들이 남긴 흔적을 오픈소스에서 교차 검증했다. 외부 확인 자료에는 게시된 가짜 오디오, 언론·팩트체크 기사, 정부의 공식 부인이 포함된다. 학교 답장·사진을 받았다는 부분은 운영자의 내부 보고에 남은 주장이다.

예를 들어 페루 학교를 속였다는 러시아 운영자의 보고와 맞는 보도를 페루·폴란드 언론에서 찾았다. 이란 필명으로 게재·재배포된 기사도 2025년 7월부터 2026년 10월까지 추적했다. 이런 대조가 내부 보고의 과장을 가리는 핵심이지만, 모든 주장에 외부 확인이 가능했던 것은 아니다.

결과와 숫자의 의미

OpenAI는 영향력 공작의 확산 정도를 1(최저)에서 6(최고)까지 평가하는 '브레이크아웃 스케일'을 사용했다. 러시아 공작 '다크 클락'은 5등급으로 평가됐는데, 이는 OpenAI가 보고를 시작한 이래 처음으로 적발한 5등급 공작이다. 5등급은 여러 국가에서 정치인의 공개 발언을 이끌어낼 정도로 확산됐다는 의미다. 실제로 이 공작이 퍼뜨린 가짜 뉴스는 페루와 폴란드 언론에 보도됐고, 폴란드의 한 유럽의회 의원이 공개 반응을 보이기까지 했다. 이란 공작은 기사 심기 경로에서 4등급, 댓글 경로에서 2등급으로 평가됐다. 4등급은 여러 매체에 꾸준히 기사가 실렸다는 뜻이고, 2등급은 여러 플랫폼에 댓글이 달렸지만 확산이나 댓글 장악의 징후가 거의 없다는 뜻이다.

숫자를 해석할 때 주의할 점이 있다. 브레이크아웃 스케일은 백분율이나 영향력 배수가 아니라 확산 유형을 분류하는 도구다. 등급 차이를 위험의 비율이나 AI가 바꾼 여론의 크기로 계산할 수는 없다. 또한 이란 공작의 기사가 실린 매체 중 하나는 페이스북 팔로워 약 200만 명, X 팔로워 약 35만 5천 명, 인스타그램 팔로워 54만 4천 명 이상을 2026년 8월 기준 보유했지만, 이는 잠재적 도달 범위일 뿐 실제 기사 조회수나 설득된 사람 수를 의미하지는 않는다. 러시아 공작의 경우, 공작자들이 자신들과 무관한 사건까지 공로로 돌리려 한 사례가 있어 내부 보고의 영향력 주장은 더욱 신중하게 받아들여야 한다.

구체적인 예시

다크 클락 운영자는 2026년 5월 리마 교육국을 사칭해 학교들에 우크라이나 관련 행사를 열게 했다고 내부 보고했다. 논란이 있는 인물 스테판 반데라를 언급하도록 했고 일부 학교로부터 확인 답장과 사진을 받았다는 주장이다. 이에 부합하는 페루·폴란드 보도와 폴란드 유럽의회 의원의 반응은 공개 자료에서 확인됐다. 보고서는 기존 역사적 긴장과 맞물린 확산으로 해석하지만, 실제 여론 변화의 크기는 측정하지 않았다.

이란 공작 '가짜 필자'는 7개의 가짜 언론인 필명을 사용했다. 예를 들어 '에르빈 B. 호스킨스'라는 필명은 자신을 '미국인 프리랜서 작가'라고 소개했지만, 소셜미디어 투명성 설정에는 계정 위치가 이란으로 표시되어 있었다. 공작자들은 ChatGPT에 기사 초안을 특정 매체의 투고 기준에 맞게 다듬어 달라고 요청하고, 편집자에게 보낼 투고 이메일까지 생성하게 했다. 그 결과 약 100개의 기사가 12개 이상의 온라인 매체에 게재됐다. 반면 댓글 작업은 성과가 미미했다. 공작자들은 ChatGPT로 대량의 댓글을 생성해 소셜미디어에 올렸지만, 확인된 댓글의 좋아요·조회수·답글 수는 한 자릿수에서 두 자릿수에 그쳤고, 해당 댓글에 달린 좋아요 중 상당수는 공작과 연계된 계정에서 나왔다.

한계와 오해하기 쉬운 점

이 보고는 통제된 실험이 아니라 OpenAI의 계정 관측과 공개 자료 조사에 기반한 운영 보고다. 따라서 특정 국가에서 시작한 활동이라는 관측이 해당 국가 정부의 직접 지시를 입증하지는 않는다. 러시아 공작의 경우, 공작자들이 '폴리톨로지'나 '라 콤파니아' 같은 러시아 조직과 연관된 것으로 보이는 정황이 있지만, 이는 공개 자료와 내부 보고의 교차 검증을 통한 추정일 뿐이다. 이란 공작은 상업적 대행 업체가 운영한 것으로 보이지만, 특정 행위자를 특정할 수는 없었다.

내부 성과 보고의 과장은 별도의 함정이다. 러시아 운영자는 아르헨티나 외무장관이 자신들의 주장을 인용했다고 했지만 그 내용은 오래된 공식 입장이었다. 브라질인 포로의 영상 보도도 자기 공로로 돌리려 했다. 원문은 이를 상급자를 속이려는 시도로 해석한다. 확인되지 않은 다른 주장은 비공개 채널·삭제·미게시 등의 가능성도 남아 있다.

실제로 어떻게 활용할까

이 보고의 가장 실용적인 교훈은 '공개' 자체가 강력한 대응 수단이라는 점이다. 과거의 유사한 위장 조직·신분인 '앨리스 도노반'과 '피스데이터'는 모두 폭로된 후 활동을 중단했다. 위장 조직·신분은 은밀함에 의존하기 때문에, 그 정체가 드러나면 신뢰를 잃고 운영을 지속하기 어려워진다. OpenAI는 이번 보고를 통해 공작자들의 수법과 계정, 필명, 관련 매체를 공개함으로써 다른 연구자와 플랫폼이 유사한 공작을 더 쉽게 찾아낼 수 있도록 했다.

조직 차원의 활용은 이 사례에서 도출하는 방어 아이디어로 읽어야 한다. 편집자나 채용 담당자는 공개된 계정 위치·활동 이력·조직 정보를 서로 대조하고 불일치를 추가 확인할 수 있다. 원문에서 SRC는 2026년 8월 17일 링크드인 팔로워 961명에 직원 200~500명을 주장했지만 등록된 직원은 2명뿐이었다. 이런 단서만으로 악성 행위를 확정할 수는 없다. 팩트체크와 정부의 부인은 일부 거짓 주장을 확인하는 데 도움이 됐지만, 이 보고서는 그 뒤 확산이 멈췄다거나 계정 차단만으로 공작 효율이 얼마나 줄었는지 입증하지 않았다.

원문에서 확인한 근거 5곳

러시아 공작 '다크 클락'은 OpenAI가 보고를 시작한 이래 처음으로 적발한 브레이크아웃 스케일 5등급 공작이다.Russia: Operation “Dark Clark”
이란 공작 '가짜 필자'는 기사 심기 경로에서 4등급, 댓글 경로에서 2등급으로 평가됐다.Iran: Operation “Bogus Bylines”
러시아 운영자가 페루 학교를 속여 행사를 열게 했다는 보고에 부합하는 보도가 확인됐고, 폴란드 유럽의회 의원의 반응도 일부 기사에 포함됐다.Internal reporting
이란 공작은 7개의 가짜 언론인 필명으로 100건 가까운 기사를 십여 개의 온라인 매체에 게재했다.Planting articles
이란 공작의 댓글 작업은 좋아요·조회수·답글 수가 한 자릿수에서 두 자릿수에 그쳤고, 이들 댓글의 좋아요 중 상당수는 공작과 연계된 계정에서 나왔다.Mass commenting

출처원문 — OpenAI Research

10월 9일(금) 정리 · AI가 쓰고 원문과 대조