세상에 '당연히 착한' AI는 없다

‘에이아이 포 굿 글로벌 서밋(AI for Good Global Summit) 2025’에 원격으로 다녀왔습니다! 국제연합(UN) 산하 기구 국제전기통신연합(International Telecommunication Union, 이하 ITU)이 매년 스위스 제네바에서 주최하는 행사인데요. 직접 갈 수는 없었지만 버추얼 패스(Virtual pass)로 일부 세션을 무료로 볼 수 있었어요. 실시간으로 전 세계 사람과 채팅을 주고받고 편집되지 않은 돌발 상황을 목격하는 재미가 현장에 있지 못한 아쉬움을 조금이나마 달래줬죠. 특히 곱씹어볼 만한 질문거리가 많은 시간이었어요.

‘AI 세대’란 무엇인가

 

"AI 세대의 질문은 ‘누가 가장 강력한 모델을 가장 빨리 만들 수 있는가’여서는 안 됩니다. ‘AI가 인간다움을 향해 작동하도록 만들기 위해, 우리는 지금 무엇을 하고 있는가’를 질문해야 합니다."

도린 보그단-마틴(Doreen Bogdan-Martin) ITU 사무총장은 “우리는 AI 세대”라는 기조연설로 서밋의 막을 올렸어요. 그는 AI에 있어서 속도와 규모는 일부에 불과하다며 AI를 깊게, 세밀하게, 이해하고 널리 공유할 것을 강조했어요. AI에 대한 접근성을 높이고 리터러시를 향상시켜 보편성을 가져야 한다고 했죠. 

 

도린은 AI 세대가 단순히 AI에 능숙한, AI로 둘러싸인 삶을 사는 세대가 아니라 AI의 미래를 만들어가는 세대여야 한다고 역설했어요. “약자를 소외시키지 않으며 AI의 궤적을 정의와 평등으로 이끄는” 역할을 해야 한다고요. AI로 인한 위험과 기회를 충분히 이해하고 AI를 다룰 수 있는 역량을 키우며 “모두가 참여할 수 있는 포용적인 AI 거버넌스”를 만들어가는 인류로서 존재해야 한다는 것이죠. 

기술이 모든 걸 해결해줄 거라는 착각

 

 “사회적 선을 정의할 때, 그 사회에는 누가 있는가”

 

아베바 비르하네(Abeba Birhane)는 AI 시스템의 사회·역사적 불평등과 권력 비대칭성에 주목하는 AI 책임성(accountability) 연구자이자 인지과학자로서 현재 발생하고 있는 문제들을 지적했어요. 예를 들어, 영국 스타트업 빌더(Builder) AI는 누구나 맞춤형 앱을 만들 수 있는 AI 서비스를 내세웠으나 실제로는 인도 출신 개발자 700여 명이 수동으로 작업해 왔다는 사실이 밝혀지며 파산했는데요. AI라는 새로운 기술을 앞세우고 있지만 결국 식민주의와 노동 착취라는 사회적 맥락이 이어진 경우죠. 지금도 데이터를 분류하고 콘텐츠가 심의에 어긋나지 않도록 조정하는 등 상대적으로 정신적 피로도가 높고 심리적 트라우마를 남길 수 있는 노동은 ‘글로벌 사우스(Global South)’의 저임금 노동자들에게 몰리고 있어요.

 

비르하네는 최신 생성형 AI 모델들이 동일한 내용의 문장을 미국식 표준 영어로 입력했을 때는 ‘똑똑하다’, ‘훌륭하다’로, 방언으로 입력했을 때는 ‘어리석다’, ‘게으르다’ 등으로 분류했다는 내용의 감사 보고서를 공유했어요. AI가 학습할 대규모 데이터 세트에서 어떤 정보들이 소거됐는지를 분석했을 때, 소수 인종이나 LGBTQI 커뮤니티에서 사용된 용어가 더 높은 비율로 제외됐어요. 데이터 세트가 사용 빈도에 비례해서 반영된 것이 아닌, 의도적으로 특정 집단의 목소리를 지워내는 비율을 높게 설정했다는 의미였죠. 차별의 역사 또한 AI 시대라고 다르지 않음을 보여주는 사건들이에요.

 

서구 중심의 사회적 편향을 가진 데이터를 학습한 AI는 그 성능이 아무리 좋아져도 근본적으로 이러한 불평등을 재생산할 것이라는 게 비르하네의 관점이에요. 또한 그는 앞에서는 ‘사회적 선’을 위해 노력한다고 광고하는 빅테크 기업들이 사실은 직간접적으로 전쟁 자금을 지원하고 수익을 창출한다는 점을 들며, UN이 이들과 동맹해선 안 된다고 완강히 말했어요. ‘사회적으로 좋은 일’이라고 말할 때, AI는 데이터 권력을 쥐지 못한 수많은 사람을 '그 사회' 안에 들어가지 못하도록 걸러낼 것이라는 거죠. 

 

 

 “우리가 외계의 존재를 만들고 있나?”

 

‘AI의 아버지’라 불리는 제프리 힌턴(Geoffrey Hinton)과 기술 전문 언론인 니콜라스 톰슨(Nicholas Thompson)의 대담도 인상 깊었어요. 두 사람은 지난해에도 같은 자리에서 이야기를 나눴는데요. 1년 사이 힌턴이 노벨물리학상을 수상하는 경사가 생겼어요. 역전파(Backpropagation)를 비롯한 머신러닝 시스템의 핵심 알고리즘을 발전시켜 오늘날 AI 분야에 지대한 공을 세운 인물이기 때문이죠. 그의 제자가 오픈AI의 공동 창업자 중 한 명이기도 하고요. 그런데 놀랍게도 이 AI의 아버지는 지난 2023년 구글에서 퇴사한 이후 지속적으로 AI의 위험성을 경고해 왔어요. AI를 새끼 호랑이에 비유하며 “너무 귀엽고 부둥켜안고 싶겠지만, 이 호랑이가 자랐을 때 어떤 일이 벌어질지를 걱정하는 게 좋을 것”이라고 주장했죠.

 

힌턴은 대규모 언어모델에 대한 감사와 법적 규제의 필요성을 언급했어요. “대부분의 AI 기업은 위험성을 인지하면서도 안전보다 수익을 중시하고 AI 규제를 막기 위해 정치권에 로비하고 있다”라며  빅테크 기업의 자체적인 노력에 회의적인 태도를 보였죠. 대기업이 정치권에 가하는 압력에 맞서려면 대중이 나서야 한다고 말했고요. “우리에게 두 번째 기회는 없습니다. 처음부터 제대로 해야 합니다.” 힌턴은 석유 산업이 마구잡이로 파괴한 환경을 복구하려 노력 중인 현재와 달리, 무분별하게 발전한 AI가 지배하는 세상을 다시 돌이킬 기회는 없을 거라고 단언했어요.

 

종말을 바라보는 힌턴에게, 톰슨은 “미래를 계획하고 있는 17세에게 어떤 조언을 해주고 싶은지” 물었어요. “우리보다 더 똑똑한 존재를 다루는, 역사상 경험해 본 적 없는 일들이 다가올 것이다. 무슨 일이 일어날지 전혀 모른다.”라는 답이 돌아왔죠. 다소 침체된 분위기 속에서 힌턴은 “특정 기술보다는 잘 사고할 수 있도록 하는 과목을 배우는 것이 최고의 선택”이라며 “무슨 일이 일어나고 있는지 이해하려면 수학과 과학을 알아야 할 것”이라고 덧붙였어요. “당신을 우리 아이들의 선생님으로 고용해야겠다”는 톰슨의 농담과 함께 대담을 마쳤죠.

격차를 어떻게 좁힐 것인가

 

“AI가 ‘부정적 남성성’을 위시해서는 안 돼”

 

‘평등을 위한 AI - 혁신 격차 해소’를 주제로 한 대화도 흥미로웠는데요. 변호사이자 여성인권운동가인 셰리 블레어(Cherie Blair)는 많은 여성 기업가가 디지털 기술을 활용하지 못하거나 그만두는 이유가 ‘안전 문제’ 때문이라는 연구 결과를 소개했어요. “사실 개발도상국이든 선진국이든, 인터넷은 여성에게 안전하지 않은 곳이다. 여성 사업가 중 70%가 성희롱, 성추행 등 성폭력을 당한 경험이 있다고 답했으며 그중 10%는 너무 많은 괴롭힘을 당해 웹사이트를 닫았다. 데이팅이나 성인 웹사이트를 말하는 게 아니다. 서비스 또는 상품을 홍보하는 사업용 웹사이트였다.” 

 

블레어는 “지난해 조사 결과 여성에게 가장 인기 있는 기술은 페이스북, 왓츠앱, 인스타그램 등이었고, 이러한 서비스를 통해 많은 성적 괴롭힘이 발생하고 있다는 사실이 밝혀졌다. 그런데 메타(Meta)는 콘텐츠 검열을 줄이겠다고 했다”며 “의도치 않았겠지만, 결과적으로는 여성들을 더 많은 위험에 드러낼  것”이라고 경고했어요. 이대로라면 여성은 해당 서비스 또는 산업군에서 이탈하고 기업은 거대한 시장을 놓치게 될 것이라는 거죠. 

 

‘문제의식’이 가장 중요하다는 태도예요. 블레어는 성적 괴롭힘을 목적으로 만든 AI 콘텐츠, 앤드루 테이트와 같은 극우 인플루언서의 AI 영상 등을 예로 들며 “AI를 ‘부정적인 남성성’으로서 인식하는 것”을 경계했어요. 그는 “그렇지 않은 많은 남성을 알고 있으며, 이 분야에서도 일하고 있다고 믿는다. 좋은 남성들의 목소리가 들려야 한다. 문제 해결을 위해 참여하고 도전해야 한다”고 강조했죠. 또, 블레어는 “좋은 남자는 누구인가? 좋은 아버지 또는 좋은 파트너인가, 아니면 그저 거들먹거리며 ‘내가 시키는 대로 해!’하는 사람인가? 질문에 대한 답은 모두 알 것이라고 생각한다”고 덧붙였어요.

이어 스타트업 피칭이 진행됐는데요. AI를 기반으로 사회 문제의 실질적 해법을 제시하는 여성 창업자들이 참여했어요. 결선에 오른 스타트업은 총 세 곳으로, 우승 기업은 전 세계 최상위 스타트업들과 경쟁하는 ‘그랜드 피날레’ 무대에 오를 수 있었죠. 

 

콜롬비아의 위버(Wiver)는 열악한 의료 환경을 개선하기 위해 의료 영상을 쉽게 저장·조회·관리할 수 있는 플랫폼을 만들었어요. 영상의학과 전문의나 관련 장비가 부족한 지역에서도 효율적으로 환자의 질병을 탐지하고 진단할 수 있도록 설계했죠. 스페인의 프레딕시언(Predictheon)은 환자 데이터를 AI로 분석해 수술 중 발생할 수 있는 돌발 상황을 예측하고 대응할 수 있는 엔진을 개발했어요. 

 

아프리카의 엘리베이트(Ele-vate) AI는 소외 지역에 거주하는 여성의 출산과 육아를 돕는 스마트 기기 ‘마마메이트(MamaMate)’를 선보였어요. 주머니에 넣을 수 있는 정도의 크기로, 인터넷 연결 없이도 작동하고 전기는 물론 태양광으로도 충전할 수 있다는 장점이 있죠. 또, 출산·육아 정보와 함께 수유, 수면 등 여성의 돌봄 활동을 추적해 적절한 조언을 제공해요. 사용자는 주기적으로 정신 건강을 확인하고 또래 여성들로부터 익명의 응원 메시지를 받을 수 있고요. 엘리베이트 AI는 해당 피칭과 이어 진출한 그랜드 피날레에서 모두 우승을 차지했어요. 

 

 

“AI가 새로운 꿈을 꾸게 했다”

 

이번 서밋에서는 흥겨운 K팝 무대가 열리기도 했어요. 빅오션이라는 K팝 아이돌이 등장해 공연을 펼쳤죠. 빅오션의 멤버 찬연, PJ, 지석은 모두 청각장애가 있어요. 인공와우나 보청기를 통해 소리를 듣고 상대방의 입 모양을 읽어 대화하죠. 1년 6개월의 연습 기간을 거쳐 데뷔한 이들은 AI를 적극 활용했다고 해요. 말로 소통하는 일은 무리가 없었지만, 정확한 음정으로 노래를 부르는 일은 쉽지 않았기에 멤버의 목소리와 발음, 습관을 학습시킨 AI 도구로 음원을 제작했죠. 

 

신곡 ‘버킷햇(BUCKET HAT)’은 다른 사람이 영어로 녹음한 가이드에 AI로 멤버들의 목소리를 입혀 멤버들이 유창한 영어 발음으로 노래하는 듯한 효과를 냈어요. 또, 생성형 AI로 뮤직비디오를 제작했는데요. 미드저니(Midjourney), 클링(Kling) 등 AI 도구를 활용해 실제 촬영본과 AI로 생성한 VFX를 결합했죠. 차해리 파라스타엔터테인먼트 CEO는 “저와 빅오션 팀은 AI 기술의 가장 큰 수혜자”라며 “과거에는 할 수 없을 것만 같았던 일들을 해냈다”고 말했어요. 

‘인간을 넘어: AI와 초인간, 무한한 능력과 수명을 향한 탐구’를 다룬 세션에서는 AI 기술로 달라진 인간의 한계를 논의했어요. 마블 영화 속 ‘아이언맨’이 로봇 슈트를 입고 인간으로서는 불가능한 초인적 능력을 발휘했듯이 AI 기술이 초월적 능력을 가능케 한다는 취지였죠. 스스로 ‘생체공학 소녀’라고 소개한 틸리 로키(tilly lockey)는 오픈바이오닉스의 ‘히어로암(Hero Arm)’을 사용하며 느낀 경험을 공유했는데요. 히어로암은 AI 기반으로 작동하는 로봇팔이에요. 3D 프린터로 제작돼 기존 로봇팔보다 훨씬 저렴하다는 장점이 있죠. 

 

어릴 때 패혈증을 앓으면서 후천적으로 한쪽 팔을 잃은 틸리는 이전에 다른 의수를 써봤지만, 기능이 제한적이라 불편했다고 회상했어요. 게다가 실리콘으로 만들어져 ‘진짜 팔’인 척 위장한다는 점이 불만족스러웠다고 말했어요. “저는 손이 없다는 사실을 숨기고 싶지 않았어요. 그저 나 자신이 되고 싶었어요.” 가짜인 것을 들키고 싶지 않은 ‘의수’ 대신 특별한 나를 돋보이게 해주는 ‘로봇팔’이 틸리의 정체성에 부합했다고 해요. 

 

앞서 국가위원회는 ‘장애를 극복’한다는 표현이 장애를 이겨낼 수 있는 대상으로 오인하게 만들고 있는 그대로의 자신을 수용해 살아가는 장애인의 자기 정체성을 부정할 여지가 있다고 밝혔는데요. AI 기술이 발전하고 보편적 접근성을 확보한다면, 장애에 대한 인식 변화도 기대할 수 있을 거예요. 순응 대신 선택으로, 틀림이 아닌 다름으로요.

 

 

“지옥으로 가는 길은 선한 의지로 포장돼 있다(The road to hell is paved with good intentions).”라는 해외 속담이 있어요. 다르게 말하면, “지옥은 선한 의미로, 천국은 선한 행위로 가득하다(Hell is full of good meanings, but heaven is full of good works).”인데요. 선한 의지 또는 명분은 실천으로 이어져야 진정한 ‘선’이 될 수 있다는 의미죠. 이번 서밋은 AI가 선으로 향하기 위해 무엇이 필요한지, AI 세대인 인간은 어떻게 해야 하는지를 묻고 또 물었어요. AI를 무조건 긍정하지 않고 비판적으로 고찰한다는 점에서 뜻깊은 시간이었죠. 

 

서밋이 스위스 제네바에서 열리다 보니 한국 시각으로는 주로 밤에서 새벽까지 진행됐다는 점이 참 아쉬운데요. 일정 탓에 놓친 분들을 위해 스트리밍 영상이 업로드된 공식 유튜브 채널을 공유할게요. 현재 2026 서밋 등록 기간이니 내년 참여를 원한다면 홈페이지를 확인해 보세요!