최근 인공지능과 관련해 세 가지 기사를 흥미롭게 읽었다. 하나는 과학학술지 [네이처](Nature)가 2023년 과학계에서 중요한 역할과 영향력을 미친 인물로, 10명의 과학자와 함께 챗GPT를 명단에 올렸다는 기사였다. 작년 초, [네이처]는 챗GPT와 같은 인공지능은 투명한 과학을 위협하기 때문에 연구 논문 저자로 인정하지 않겠다는 의견을 낸 바 있다. 하지만 불과 1년도 안 되어 챗GPT를 영향력 있는 연구자 중 ‘하나’로 인정한 것이다. 두 번째 기사는 일본의 한 권위 있는 문학상을 받은 작가가 수상 직후, 챗GPT의 도움을 받아 글을 썼다고 밝히며 벌어진 여러 논란에 관한 기사였다. 우리에게 익숙한 챗GPT 이전 버전(GPT-3, GPT-3.5)과 함께 글을 쓰고 책으로 출간한 사례는 여럿 있었지만, 문학상 수상까지 영향력이 이어진 사례는 없었기에, 이 일은 인간과 기계 사이의 해묵은 창의성 논란을 확실하게 현실의 문제로 가지고 왔다.
마지막으로 이스라엘과 하마스 전쟁에 등장한 인공지능을 적용한 군사 무기에 대한 것이다. 이스라엘군이 사용하고 있는 이 새로운 전쟁용 광학기계 역시 인공지능이 그 핵심적인 역할을 한다. 안면 인식 기술과 총술을 결합해, 표적을 발견하면 총기 자동 발사까지 가능하다. 이 무기는 가자 지구 일대 검문소에서 팔레스타인인의 얼굴을 스캔하고 분류하는 감시 데이터셋(Data-set)과 연동된다. 얼굴을 잘못 인식할 오작동의 위험, 인권과 기술 남용 문제는 전쟁의 살상력 앞에서는 고려되지 않는다. 이처럼 인공지능의 기술 개발 목적과 적용의 스펙트럼은 현실의 자장 안에서 다양하게 경계를 나누며 주체가 되기도, 창작의 보조자가 되기도, 자동화 화기가 되기도 하며, 급발진하듯 우리 앞 현실의 문제로 당도하고 있다.
급박한 기술 전개의 이면
기사에서의 사례처럼 인공지능과 연결된 기술은 다양한 분야에서 더 이상 ‘혁신기술’이 아닌 ‘사용기술’로 자리 잡고 있다. 사용자로서의 개인 역시 이 기술의 급박한 전개에 자신을 동기화하고 개발하고 있다. 하지만 어떤 의식과 태도로 인공지능 기술을 수용하고 다루어야 할지, 세심한 탐색과 판단을 스스로에게 허용하지는 않는다. 이런 상황에서 인공지능 내부의 작동, 그리고 이 새로운 인지 기술이 그리는 영토는 어떤 모습을 하고 있는지는 더욱더 어려운 질문이 된다. 불투명한 인프라와 기술을 가진 인공지능은 닫혀있는 폐쇄상자, 블랙박스와 같다. 기술 층위의 블랙박스만을 의미하는 것은 아니다. 이 블랙박스를 위해 어떤 자원이 동원되는지, 그리고 어떤 사회적, 경제적 가치가 상수가 되어 우리에게 영향을 미치는 계산, 추론, 예측을 내어놓는 것인지 알기 힘들다.
이런 인공지능의 감추어진 시스템을 연구자 블라단 욜러(Vladan Joler)와 케이트 크로포드(Kate Crawford)는 ‘추출주의(Extractivism)’라는 단어로 지도를 그려본다. 그리고 그 지도는 때 묻지 않은 코드로 이루어진 것이 아닌, 인간의 데이터와 노동, 물적 자원의 추출로 작동되고 있음을 매핑한다. 인공지능의 기계학습을 위한 데이터셋은 동의 없이 수집되었고, 인간의 편견을 반영하고 있는 데이터셋을 학습한 인공지능 모델은 부적절하거나 유해한 결과로 윤리적 문제를 초래한다. 문제와 위험에 대한 다양한 공론화에 앞서 인간의 드러나지 않는 이차적 그림자 노동과 피드백으로 오류는 수정되고 ‘개선’되고 있다고 발표된다. 빠르게 상용화된 인공지능에 의해 이루어지는 데이터 추출은 더욱 세밀해지고, 이를 통해 인간의 경험은 다시 인공지능의 ‘개선’에 암묵적으로 기여한다. 질문들은 이 속도에 점점 뒤처진다. 또한 데이터 처리 및 분석, 대규모 컴퓨팅 연산을 위한 광물 채굴과 데이터센터 건립으로 인한 자연 생태계의 위기는 늘 그렇듯 효율에 가려진다. 이처럼 인공지능 기술의 속도와 편의성 뒤에는 윤리와 노동, 생태와 환경 문제가 유기적으로 연결되어 있지만, 이 문제를 직시하거나 규제하는 인간의 경험과 대응 속도는 기술의 가속에 비하면 너무나 느리다. 국가적, 사회적 영향력이 커지고 있는 인공지능에 대한 우려에 비해, 법에 의한 규제(EU AI act)는, 그나마 초안이 나온 것도 최근 일이다.
낯설고도 난감한 화두의 등장
2022년 11월 챗GPT의 등장 이후 불과 1년여 만에, 문화예술교육의 장도 ‘인공지능 시대의 문화예술교육’이라는 화두로 새로운 전환의 시기를 맞고 있다. 문화예술과 교육 분야는 생성형 인공지능이라는 새로운 환경에 대한 탐색의 필요를 느끼고 있지만 속도를 쫓지 못하는 피로감과 그 속성을 제대로 파악하지 못한 무력감이 계속 누적되고 있다. 이는 아날로그에서 디지털로의 이행기에 겪은 시간에 비하면 너무나 빠르고, 그 속성의 차이에서 기인한다. 이를테면 현실에서 촬영해 얻어낼 수 있는 이미지인 ‘렌즈 기반의 사진’(Lens base photography)과 인공지능이 가중치를 기반으로 합성해 얻어내는 ‘연산 기반 사진’(Computation base photography)의 이행 속에서 이 둘을 가지고 문화예술교육을 한다면 어떤 깊이 있는 재현적, 미적 질문을 할 수 있을까? 그보다는 많은 교육이 그것들을 ‘잘’ 생성해 내기 위한 프롬프트를 사고하는 방식으로 맞추어지기에 십상일 것이다. 혹은 인공지능의 속도와 자동화의 자장 안에서 어떻게 접근하고 어떤 선택을 해야 할지 난감함 속에서 서성거리게 될 것이다.
생성형 인공지능을 마주하는 우리의 태도는 긍정과 부정을 오간다. 인공지능 기술에 대한 접근 가능성이 열리면서 학습자에게 맞는 맞춤형 교육, 자기 주도적 학습이 가능한 환경에 대한 기대도 있다. 반면에 이것이 과연 우리의, 사용자의 자율성과 주도성을 얼마나 높일지 의문과 의심이 가득하다. 사물과 세계를 다르게 해석하고, 창의적으로 생각하는 힘을 기르는 문화예술교육과 다르게, 생성형 인공지능의 지적, 창의적 작업의 자동화(자동 위탁)는 우리가 생각하는 것을 ‘표준화’하거나 ‘평균화’할 수 있고, 결과물 역시 마찬가지다. 평균화된 이미지와 텍스트의 범람이 우리의 미적, 인지적작용에 가져올 영향은 심대하다. 합성데이터로 만든 정보와 콘텐츠의 가짜와 진짜를 분별하는 문제도 향후 우려되는 현상이다.
프롬프트를 다루는 사용자의 경험에 따라 다를 수 있지만, 인공지능과 대화를 이어가다 보면 인공지능 시스템이 더 급진적으로 다르게 인식하거나, 생각을 촉발하는 알레고리가 되기에는 부족하다는 것을 느낄 수 있다. 이런 생성 인공지능의 초기 버전이 가짜 정보를 뱉어내는 ‘환각’으로 문제가 되었다면, 지금은 오히려 사용자의 경향을 맞춰주는 ‘아첨’이 문제가 되는 것도 이와 연결된다. 이처럼 인공지능은 어쩌면 우리를 더욱 에코 체임버(echo chamber)에 가두는 역할을 하게 될지도 모른다. 이런 상황에서 문화예술교육이 가장 실천적이면서 어렵지 않게 할 수 있는 접근은 생성형 인공지능을 통해 어떤 질문에 대한 답이나 창작물을 얻는 것이 아니라 이것들을 하나의 모형(모델링)으로 다루게 하는 접근이다. 기술사에서 모형은 폐쇄상자 같은 거대과학 기술을 사용자 측면에서 이해하고 재구성하게 하는 매개체였다. 이런 모델링 과정은 기술의 보이지 않는 면을 이해하고, 메타적으로 해석하기 좋은 방법론으로 자동화된 인공지능의 결과 생성에서 확장 또는 누락, 생략되는 것을 조정(파인튜닝)할 수 있다. 이 과정은 메타적 질문을 구체적으로 작동하는 모델로 만드는 것이기도 하다.
끝없는 질문과 마찰을 일으켜야
앞으로 인공지능은 소프트웨어, 하드웨어, 서비스 및 새로운 운영 체제가 되어 우리 일상과 사회 시스템에 계속 이식될 것이다. 이에 따라 일상생활부터 사회 시스템을 구축하던 많은 관행과 지식, 교육과 창작의 체계까지 영향을 받고, 재구성될 것이다. 생성형 인공지능이 피할 수 없는 기류라면, 우리는 단순한 소비자를 넘어 적극적 사용자이자 개입자로 인공지능의 잠재공간을 탐색하며 끊임없는 질문을 통해 마찰을 만들어 가야 한다. 기술은 사회적 차원에서, 사용자 측면에서 계속 재구성되고 변형될 수 있기 때문이다. 따라서 문화예술교육에서 생성형 인공지능의 사용은 관련 툴(tool)을 가르치고 배우기를 앞세우기보다는 사회적, 문화적, 생태적, 경제적 맥락에서 지도를 그려내고, 그 사용법을 스스로 모형화(모델링) 해내야 한다. 이런 과정을 통한다면 생성형 인공지능과 결부된 진부한 창의성 논란을 피하고 학습자가 스스로 탐구하고 발견하며 새로운 인식과 감각을 촉발하는 하나의 지식 탐색 시스템으로 다룰 수 있을 것이다.
송수연
송수연
언메이크랩(unmake lab). 작가. 기술을 다루는 과정이 창의적이고 비판적 접근이자 사회를 매개하는 생각과 실천으로 확장되는 것에 관심을 가지고 연구 및 교육 활동을 하고 있다.
songsooyon@gmail.com

#