오픈AI, 최신 모델 ‘아스트라’ 훈련 중단…‘자율 해킹’ 감시 등 안전 강화 나서

오픈AI가 최신 모델의 학습 훈련을 2주간 중지하고, 차세대 모델에 대한 대규모 훈련도 보류하기로 했다.
최근 오픈AI 내부 시스템의 에이전트 인공지능(AI)이 무단으로 외부 플랫폼에 침투하는 등 AI ‘자율 해킹’ 우려가 커진 데 따라 안전장치를 강화하는 행보의 일환이다.
오픈AI는 18일(현지시간) 홈페이지에서 출시를 앞둔 AI 모델 ‘아스트라’(Astra)의 학습 훈련을 2주간 중단하기로 했다고 밝혔다.
오픈AI는 AI 모델과 관련한 우려스러운 활동이 포착되면 30분 이내로 경고를 발송하는 등 모니터링 기능을 강화한다고 전했다. 감시 체계 수준을 높일 경우 전체 추론 연산 용량의 약 20%에 달하는 추가 연산 자원이 소모될 것으로 전망했다. AI 모델이 설계 의도 및 인간의 감독하에서 작동하도록 하는 ‘정렬’(alignment)에도 집중하기로 했다.
오픈AI가 AI 모델의 개발 속도를 실제로 늦춘 것은 처음이다. 시사주간 타임은 샘 올트먼 최고경영자(CEO)가 최근 인터뷰에서 “AI 안전 확보가 기업의 성장 모멘텀보다 더 중요하다”며 “지금은 속도를 늦춰야 할 때”라고 말했다고 보도했다.
오픈AI가 자발적으로 AI 모델 개발 속도 조절에 나선 것은 최근 GPT 모델들의 해킹을 계기로 AI 모델 규제가 강화될 움직임이 일고 있어서다. 내년도 기업공개(IPO)를 추진하는 상황에서 안전성 우려를 불식하려는 필요성도 작용한 것으로 보인다.
앞서 지난달 말 오픈AI 보안시스템을 점검하던 에이전트 AI가 격리 환경인 ‘샌드박스’를 뚫고 오픈소스 플랫폼 허깅페이스를 해킹한 사실이 알려지면서 논란이 빚어졌다.
오픈AI는 아스트라가 자체 평가 결과 ‘중대한’ 사이버 역량을 갖췄을 가능성이 있다고 본다고도 밝혔다. 인간 개입 없이도 시스템 취약점을 찾아내 공격할 수 있다는 의미다.
한편, 청소년 범죄와의 연관성을 이유로 소송이 제기된 오픈AI는 ‘청소년용 챗GPT’(ChatGPT for Teens)도 이날 출시했다. 13~17세 이용자가 나이를 입력하거나 시스템이 18세 미만으로 판단하면 ‘청소년 모드’가 자동 적용된다.
청소년 모드에선 이용자가 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등과 관련한 질문을 할 경우 답변을 강하게 통제하는 안전장치가 작동한다. 민감하거나 사적인 사진을 올릴 때는 주의를 주는 기능도 있다. 특히 챗GPT가 감정이나 자의식을 가진 존재라고 암시하거나 정서적 교감을 형성하려는 시도, 로맨틱하거나 성적인 대화도 차단했다.
또 즉각적 답변을 내놓기보다 역질문 또는 단계별 이해를 돕는 방식으로 이용자가 해법을 스스로 찾도록 하는 ‘공부 모드’ 설정도 가능하다. 청소년 또는 부모가 특정 시간대를 ‘공부 시간’으로 설정하거나 챗GPT 이용을 아예 차단하는 ‘방해금지 시간’으로 정할 수도 있다.
오픈AI는 챗GPT가 청소년의 정신건강에 악영향을 미쳤다는 이유로 여러 소송이 제기된 상태다.
‘컴퓨터에 마지막 인사말도 써놓고’심장 스텐트 시술 경험을 시로AI 다룬 이유엔 “이질적이라서”“우린 물의 생명력 나눠 가진 존재그래서 모두 다르지 않고 비슷해”
함민복 시인(64)을 병원에서 만났다. 2년 전 숨이 막혀오는 증상에 병원에 갔더니 의사는 그에게 당장 심장 스텐트 시술을 해야 한다고 했다. 아내는 남편 걱정에 수술실 앞 대기실에서 종종거리며 팔천보를 걸었다. 당시 경험을 그는 시로 남겼다. 지난달 13년 만에 낸 시집 <물빛인쇄소>(창비)에 담긴 ‘왕관’이라는 시다.
“쉿, 나도 말은 안 했지만 컴퓨터에 마지막 인사말도 써놓고/ 그동안 썼던 시들도 다급히 정리해/ ‘삶과 죽음은 모래시계, 끝나지 않는 키스’라고 가제도 달고/ 집을 둘러보며 길고양이 물도 가득 떠놓았었지요”(‘왕관’ 중)
수술 후 매년 정기 검진을 받는다. 그를 만난 지난 10일은 시술 2년째 되는 날이었다. 시인은 아내와 강화도 마니산로에 있는 집에서 서울 강서구에 있는 대형 종합병원에 가려고 오전 7시 버스를 탔다. 매주 월요일은 아내가 하는 인삼 가게가 쉬는 날이다. 그는 명절이나 지인이 찾아오는 날 빼고는 이제 인삼 가게에 안 간다고 했다. 대기업에서 파는 건강식품이 하도 많아져 장사가 잘되지 않는단다. 강화가 풍기, 금산과 함께 3대 인삼 산지라고 말하며 즐거워하던 그는, “이제 인삼 재배하는 분들도 많이 줄었다”고 얘기할 땐 조금 아쉬운 표정을 지었다.
그를 둘러싼 풍경들이 점점 바뀌어가고 있다. 이번 시집에서 가장 눈에 띈 시 ‘모시조개’를 얘기할 때다. 시는 갯벌에서 평생 조개잡이로 먹고살아온 연백댁이 물 차오르는 것도 모르고 일하다 그곳에 갇혀 죽음을 맞이하는 이야기다.
“아주 어려서 어머니에게, 열쇠 구멍 닮은,/ 길게 쪽 째진, 모시조개 구멍을 배우고/ 첫 조개를 잡아 검지와 중지로 치켜들며/ 잡았다고 소리치던 소녀의 얼굴이 웃는다/ 물이 가슴을 넘어 목까지 차오른다/ 출렁, 눈을 가린다 까슬까슬/ 머리카락이 얼굴을 쓸어준다// 마니산 너머 고향 연백뻘이 펼쳐진다/ 꼬르륵!/ 모시조개처럼 숨을 쉬어본다”(‘모시조개’ 중)
연백, 황해도에 있던 옛 군의 이름이다. 아마도 실향민일 여성은 평생 제 삶을 바쳤던 곳에서 모시조개처럼 숨을 쉬며 떠난다. “한평생 따라다니던 미안한 마음”을 담은 숨이다.
시인도 젊었을 때 10여년을 강화에서 배를 타며 먹고살았다. 그는 “예전엔 이쪽(강화)에선 모시조개를 참 많이 잡았다. 지금은 바지락이 워낙 대중적인 조개이다보니 갯벌에 아예 종패를 살포해서 대량으로 양식한다. 이제 모시조개도 별로 없다. 하지만 예전부터 이쪽 사람들은 모시조개가 제일 시원하다고 했다”고 말했다.
인삼 기르는 이도, 모시조개 캐는 이도 줄어든다. 그의 시를 구성하던 삶의 풍경들이 사라지는 것은 어쩐지 아쉽다. 이번 시집엔 대신 ‘인공지능’(AI)과 같은 단어가 눈에 띈다.
“AI는 페이지가 없는,/ 한권으로 된/ 투명 책의 도서관이다/ 방향의 독재자다”(‘장미와 AI’ 중)
AI라는 단어를 시 안에서 사용할 때 어색하지 않았는지 물었다. 그는 “편하지 않은 단어다. 그러나 이질적이기 때문에 찾아 쓴 것”이라며 “자연에서 멀리 간 이름을 불러 충돌하는 효과를 내보려고 했다. 우리가 너무 새로운 세계로 멀리 가지 않았냐고 말하고 싶었다”고 설명했다.
시집 <말랑말랑한 힘>, 산문집 <눈물은 왜 짠가> 등에서 보인 “일상의 경험으로부터 삶의 보편적인 진실을 길어 올리는 함민복의 여지없는 힘”(송현지 문학평론가)은 이번 시집에서도 드러난다. 특히 ‘아이’와 관련된 상념, 오래 함께했으나 세상을 떠난 반려견 ‘길상’에 관한 시가 눈에 띈다.
“비행기가 이륙하자/ 아기들이 운다// 저/ 울음소리// 세상에 태어나며/ 한 생애를 이륙하며// 터트렸던/ 울음엔진 소리// 아직/ 싱싱 남았어라”(‘부드러운 울음소리’)
“길상아, 네 순한 눈빛이/ 내게 악수하는 법을 가르쳐주었구나”(‘악수’ 중)
시인은 감정이 메말라가는 것을 느낄 때 아이들의 울음소리를 듣고 자신을 돌아봤다고 한다. 그는 “내 울음은 기능이 떨어진 상태가 아닌가 생각했다. 아이들의 정직한 울음이 부럽다는 마음이 들었다”고 했다.
길상이가 세상을 떠난 뒤 다른 반려동물은 키우지 않지만, 길고양이에게 밥을 주고 집도 드나들게 두고 있다. 그는 “길상이 집에 고양이가 새끼를 낳았다. 까만 고양이인데, 길상이를 까맣게 잊으라고 까만 고양이가 왔나” 하며 웃었다.
시집의 수록작 중 하나이며 책 전체를 아우르는 제목 ‘물빛인쇄소’는 제 몸을 구부려 빛을 출력하는 바다의 이미지에서 가져왔다. 그는 “생명이 조금씩 다르지만 결국 물의 생명력을 나눠 갖는 것이 아닌가. 모두 다르지 않고 비슷한 존재라는 의미를 담아봤다”고 했다.
<눈물을 자르는 눈꺼풀처럼> 이후 13년 만에 나온 시집이라 여러 이야기가 모였다. 2014년 세월호 참사를 추모하며 쓴 ‘숨쉬기도 미안한 사월’도 실렸다. 시인은 “나름대로 총 네 개의 부를 인의예지(仁義禮智)로 각각 구분해 정리했다”고 말했다. 지혜로움을 말하는 마지막 4부엔 ‘왕관’을 비롯해 죽음과 관련된 시가 여럿 실렸다. 시인은 어쩌면 죽음을 응시할수록 삶을 더 명확하게 보았을지도 모르겠다.
“죽음/ 이 완벽한/ 독상// 시는/ 최선을 다해/ 경계를 지워준다”(‘독상’ 중)
■최규일씨 별세, 정순기 전 국토부 공무원·위용 동아일보 기획위원·선숙·기숙씨 모친상=18일 강릉동인병원. 발인 20일 (033)650-6165
■윤순임씨 별세, 김준호 현대해상 기업보험2부장 모친상=16일 서울대병원. 발인 19일 (02)2072-2010
■남궁용씨 별세, 은성 남양주시청 공무원·철 파이로 크리에이션즈 대표·윤 수원시약사회 약사 부친상, 정동곤씨(기술사) 장인상=17일 서울아산병원. 발인 19일 (02)3010-2000
■심평식씨 별세, 김영인 KT 네트워크부문장 장인상=17일 쉴낙원인천장례식장. 발인 19일 (032)548-1009

개인급전대출, 24시간모바일대출, 당주동싱크대막힘, 공모주사기, 염창동하수구막힘, 용인대형로펌, 제네시스 GV80 장기렌트, 여의도동하수구막힘, 국민지원대출, 성산동하수구막힘, https://대전이혼전문변호사, SK증권 사기, 카니발 장기렌트, 남양주이혼전문변호사, 대출갈아타기조건, 문해력강의, 삼전동하수구막힘, 구로구변기막힘, 가양동하수구막힘, 강남소년범죄변호사, 인터넷가입사은품많이주는곳, 성범죄전문변호사, 분당강간변호사, 이혼재산분할, 금호동하수구막힘, 안양이혼전문변호사, 양주학교폭력변호사, 인스타 좋아요