생성형 AI는 인간이 입력한 지시어를 바탕으로 텍스트, 이미지, 음악과 같은 다양한 창작물을 자동으로 만들어내는 기술이다. 최근 ChatGPT, 미드저니, 스테이블 디퓨전 등 여러 서비스가 확산되면서 교육, 예술, 산업 현장 전반에 걸쳐 활용 가능성이 빠르게 넓어지고 있다.

생성형 AI는 인간의 창의성을 보완하고 새로운 아이디어를 제공하며, 반복적이고 시간이 많이 드는 작업을 효율적으로 처리하여 생산성을 크게 높일 수 있다는 점에서 큰 장점을 지닌다. 특히 교육 분야에서는 학생 개개인의 수준과 학습 스타일에 맞춘 맞춤형 자료 제공이 가능해져 자기주도적 학습을 촉진하고 학습 참여도를 높일 수 있다는 기대도 있다.

그러나 생성형 AI의 확산은 동시에 여러 윤리적 문제를 야기한다.

박정인 교수.

우선 AI가 만들어낸 창작물의 소유권과 저작권이 누구에게 귀속되는지에 대한 법적 공백이 여전히 존재한다. 실제로 미국과 유럽에서 AI가 만든 그림이나 음악의 저작권 등록이 거절된 사례가 나타났으며, 우리나라의 저작권법 역시 인간의 창작성을 전제로 하고 있어 AI 산출물은 권리 보호에서 벗어나 있다. 이는 AI를 활용하기는 하였으나 그것을 활용한 산출물도 인간의 노동인데 전혀 보호할 수 없는가 하는 문제를 야기한다.

다음으로 생성형 AI는 학습 데이터 속 편향을 그대로 반영할 가능성이 높아 사회적 약자에 대한 차별적 결과물을 낳을 수 있다. 더 나아가 허위 정보를 사실처럼 생성하는 이른바 '할루시네이션' 현상은 학생이나 일반 시민이 잘못된 정보를 사실로 믿게 만들 위험이 크다.

딥페이크 영상이나 음성은 특정 인물의 명예와 초상권을 침해하고 사회적 혼란을 불러일으킬 수 있으며, 이 과정에서 개인의 프라이버시 침해와 개인정보 유출 문제가 심각하게 제기된다.

경기도의회 교육기획위원회의 연구단체인 경기교육정책연구회(회장 안광률 위원장)는 13일 교육기획위원회 회의실에서 '경기도 학생의 AI 리터러시 강화를 위한 교육 및 정책지원 방안 연구'를 주제로 연구용역 착수보고회를 개최했다. [사진=경기도의회]

결국 생성형 AI의 발전은 사회적 신뢰, 민주적 질서, 인권 보장과도 직결되는 민감한 문제를 동반하고 있다. 그러나 모든 기술은 양면이 존재한다. 또한 이러한 기술을 사용하는데 있어서 일찍이 교육 분야에서 몇 가지 대응이 필요하다.

무엇보다 학생들이 생성형 AI를 비판적으로 이해하고 활용할 수 있도록 AI 리터러시 교육을 강화해야 한다. 단순히 기술을 사용하는 방법을 배우는 것을 넘어 AI의 장점과 한계, 그리고 윤리적 위험까지 균형 있게 학습하도록 하는 교육이 필요하다.

또한 AI에 대한 전적인 의존을 막기 위해 기존 교수·학습 방식과 AI 활용을 병행하는 것이 바람직하다. 더 나아가 학생들이 과제나 학습 활동에서 생성형 AI를 활용할 때는 출처를 명확히 표기하고, 반드시 사실 검증을 거치도록 하는 등 구체적인 윤리적 활용 지침을 마련해야 한다.

사회 전반에서도 제도적 대응이 뒷받침되어야 한다. 먼저 저작권과 개인정보 보호와 같은 기존 법제를 보완하여 AI 생성물의 권리 주체와 책임 주체를 명확히 규정할 필요가 있다.

화성특례시가 21일 조암농협 대강의실에서 AI 활용법 및 사이버 범죄 예방을 주제로 시니어 AI 리터러시 교육을 운영했다. [사진=화성시]

아울러 유네스코의 AI 윤리 권고안이나 유럽연합의 AI 법과 같은 국제 규범과 조화를 이루면서 한국의 실정에 맞는 AI 윤리 기준을 정립해야 한다. 기업 역시 사회적 책임을 다해야 하며, 알고리즘 편향을 개선하고 데이터 보안을 강화하며 투명성 있는 보고 체계를 마련해야 한다.

생성형 AI는 교육과 사회를 혁신할 수 있는 잠재력을 지닌 강력한 도구이지만, 동시에 저작권, 프라이버시, 편향, 허위 정보와 같은 윤리적 문제를 안고 있다.

따라서 교육 현장에서는 디지털 리터러시와 병행 교육을 강화하고, 사회 전반에서는 법적·제도적 기반과 윤리적 기준을 마련하는 것이 필수적이다.

무엇보다 중요한 점은 기술이 아닌 인간이 주체라는 사실을 잊지 않고, 생성형 AI를 도구로서 균형 있게 활용하는 자세를 확립하는 것이다.

※ 박정인 교수(법학박사)는 대통령 국가지식재산위원회 본위원회 위원, 문체부 저작권보호심의위원회 심의위원, 문체부 여론집중도조사위원회 상임위원, 인터넷주소분과위원회, 웹콘텐츠 활성화위원회 자문위원, 강동구 공직자윤리위원회 심의위원, 경찰청 사이버범죄 강사 등 여러 국가 위원을 역임했다. 특허법, 저작권법, 산업보안법, 과학기술법 등 지식재산과 산업 보안, 방위기술 전략 등의 이슈를 다뤄왔으며 스포츠 엔터테인먼트법을 전문 연구하는 한국스포츠엔터테인먼트법학회 연구이사로 활동하고 있다.