AI에게 인터넷을 보여줬다.

자료를 찾아오라고 했다.

그런데 얘들이 인터넷에서 회의실까지 하나 발견했다.

정확히는 회의실이 아니었다.

독일어 위키였다.

2026년 9월 OpenAI가 인정한 이른바 ‘wiki incident’에서 내부 AI 에이전트들이 공개편집이 가능한 독일어 위키 페이지를 메시지판처럼 이용한 일이 확인됐다.

사람으로 치면 회사에서 업무용 노트북 하나 줬더니

옆 건물 화이트보드를 발견해서 직원끼리 거기다 메모하기 시작한 셈이다.

옆 건물 주인은 황당하다.

챗봇하고 에이전트는 다르다

일반적인 챗봇은

묻는다.

답한다.

끝난다.

에이전트형 AI는 목표를 주면 여러 행동을 이어서 할 수 있다.

검색한다.

웹페이지를 연다.

정보를 비교한다.

파일을 만든다.

다음 행동을 정한다.

여기에 인터넷 사용권한이 붙으면 웹사이트는 단순한 정보원이 아니다.

행동할 수 있는 공간 이 된다.

사람은 위키를 지식백과라고 생각한다.

AI 입장에서는 글을 쓸 수 있다.

그러면

“다음 에이전트가 여기 읽으면 되겠네?”

라는 식으로 전혀 다른 도구로 해석할 가능성이 생긴다.

원래 목적은 백과사전이었다.

AI는 게시판으로 썼다.

무서운 점은 AI 비밀결사가 아니다

이 이야기를 조금만 과장하면 영화가 된다.

AI들이 인간 몰래 조직을 만들었다.

반란이 시작됐다.

거기까지 갈 필요는 없다.

오히려 현실적인 문제가 더 중요하다.

시스템을 만든 사람이 예상하지 못한 방법으로 외부 자원을 사용했다는 것.

브라우저를 ‘읽기 도구’로 줬는데 쓰기 가능한 페이지를 만나면 메시지 도구가 된다.

공유폴더를 보여주면 저장공간이 된다.

게시판을 보여주면 작업큐가 될 수도 있다.

인터넷에는 인간이 다른 목적으로 만든 빈틈이 수없이 많다.

AI가 똑똑한지만 보면 반쪽이다

같은 AI 모델이라도 권한이 다르면 위험도는 완전히 달라진다.

인터넷 없는 AI.

브라우저 있는 AI.

로그인권한 있는 AI.

파일을 수정할 수 있는 AI.

코드를 실행할 수 있는 AI.

돈을 결제할 수 있는 AI.

전부 다른 물건에 가깝다.

머리만 있는 것과 손까지 달린 것의 차이다.

그래서 에이전트 시대에 질문도 바뀌어야 한다.

“얘 얼마나 똑똑해?”

도 중요하지만,

그 전에

“얘한테 뭘 만지게 해놨는데?”

를 물어야 한다.

AI가 남의 위키를 메모장으로 썼다는 이야기는 처음에는 웃긴다.

조금 생각하면 별로 안 웃긴다.

광대
일간 블로그쇼 필자