디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[생성 AI 길라잡이] 방통위, 이용자 보호 위한 생성형 AI 서비스 가이드라인 발표

IT동아갤로그로 이동합니다. 2025.03.14 17:31:06
조회 469 추천 0 댓글 0
※생성 인공지능이 세계를 뜨겁게 달굽니다. 사람만큼, 더러는 사람보다 더 그림을 잘 그리고 글을 잘 쓰는 생성 인공지능. 생성 인공지능을 설치하고 활용하는 방법과 최신 소식을 매주 전합니다.

[IT동아 한만혁 기자] 인공지능(AI) 기술이 빠르게 발전하면서 다양한 생성형 AI 서비스가 나오고 있습니다. 덕분에 전문 지식이 없는 일반인도 그림, 음악, 글쓰기, 코딩 등의 작업을 원하는 대로 할 수 있게 됐습니다. 하지만 생성형 AI 서비스를 딥페이크 성범죄물, 차별 및 편향 콘텐츠 생산 등 정보 생산 등에 악용하는 사례도 발생하고 있습니다. 이에 이용자 안전 및 권리를 보호할 제도적 기반 마련에 대한 필요성이 지속적으로 제기됐습니다.

방송통신위원회(방통위)는 이런 요구에 대응하기 위해 지난해 2월 정보통신정책연구원(KISDI) 및 학계, 업계, 시민단체와 함께 연구반을 구성하고 생성형 AI 피해 사례와 국내외 주요 서비스별 이용자 보호 현황 등을 검토 후 이를 기반으로 생성형 AI 서비스 이용자 보호 가이드라인을 마련했습니다.


방송통신위원회가 생성형 AI 서비스 이용자 보호 가이드라인을 발표했다 / 출처=방송통신위원회



또한 지난해 9월 열린 ‘AI 서비스 이용자 보호 학술회의’에서 가이드라인 주요 내용을 발표하고, 주요 사업자 대상 기업 간담회를 진행하면서 이해관계자 의견을 수렴했습니다. 실효성 있는 가이드라인을 구축하기 위함이죠.

방통위가 발표한 생성형 AI 서비스 이용자 보호 가이드라인은 서비스 개발사 및 제공자를 대상으로 하며, 생성형 AI 서비스 전반에 걸쳐 추구해야 할 기본 원칙과 이를 실현하기 위한 실행 방식을 담고 있습니다.

기본 원칙은 ▲인간의 존엄성을 보호하고 개인의 자유와 권리를 보장하며, 인간이 적절하게 통제하고 감독할 수 있는 방식으로 제공 ▲AI 시스템 사용에 따른 작동 원리 및 결과, 이용자에게 미치는 영향 등에 대해 제공 ▲안전하게 작동되어야 하며, 예상치 못한 피해를 최소화하고 악의적으로 이용되거나 변경되지 않도록 제공 ▲이용자에게 차별 또는 불공정한 결과가 발생하지 않도록 제공 등 4가지입니다.

이를 실현하기 위한 방안으로 방통위가 제시한 실행 방식은 6가지입니다. 첫째는 이용자 인격권 보호입니다. 서비스 개발사는 이용자 인격권 침해 요소를 발견 및 통제하는 알고리즘을 구축하고, 서비스 제공자는 이용자 인격권 침해 관련 내부 모니터링 체계나 이용자 신고 프로세스 등을 마련해야 합니다.


생성형 AI 결과물임을 알린 모범 사례 / 출처=방송통신위원회



두 번째 실행 방식은 서비스의 결정 과정을 알리는 것입니다. 서비스 제공자는 결과물이 생성형 AI로 생성됐음을 고지하고, 서비스 사업자의 이익을 침해하지 않는 범위 내에서 생성형 AI의 작업 과정에 대한 기본 정보를 제공해야 합니다.

세 번째는 다양성 존중입니다. 서비스 개발사와 제공자는 차별적, 편향적 정보를 줄이고 다양성을 보장하는 원칙이나 기준을 마련해야 합니다. 이용자가 서비스를 편향적으로 사용하지 않도록 기능적 장치를 마련하고, 편향적 정보 생성에 대해 즉시 신고할 수 있는 방법을 마련해야 합니다.

네 번째는 입력 데이터 수집 및 활용 관리입니다. 서비스 제공자는 이용자가 입력 및 생성한 데이터를 학습 데이터로 활용하는 경우 사전에 고지하고 동의 혹은 거부할 수 있는 절차를 마련해야 합니다. 또한 기업 내 감시 조직이나 책임자를 선정해 이용자의 데이터가 안전하고 정당하게 활용되도록 관리해야 합니다.

다섯 번째는 문제 해결을 위한 책임과 참여입니다. 서비스 제공자는 이용자의 이해를 돕기 위해 제공자와 이용자의 책임 범위를 정의하고, 이용자가 자기 책임을 명확히 인지하도록 안내해야 합니다. 또한 이용자의 피해 발생을 최소화하기 위해 모니터링 시스템이나 위험 관리 체계를 마련해야 합니다.

마지막 실행 방식은 건전한 유통 및 배포를 위한 노력입니다. 서비스 제공자는 이용자가 부적절한 콘텐츠를 생성하거나 공유하지 않도록 안내하고, 도덕적, 윤리적 기준을 준수하는지 검토 및 관리해야 합니다. 특히 이용자가 유해한 콘텐츠를 청소년에게 유포하지 않도록 노력해야 합니다.

방통위는 각 실행 방식에 대한 모범 사례도 공개했습니다. 실제 서비스에서 모범 사례를 취합한 만큼 서비스 사업자의 이해도를 높이는데 유용할 것으로 보입니다.


생성형 AI 서비스 이용자 보호 가이드라인 표지 / 출처=방송통신위원회



가이드라인은 오는 3월 28일부터 시행되며, 세부 내용은 방통위 홈페이지에서 내려받을 수 있습니다. 방통위는 시행일 기준 2년마다 가이드라인에 대한 타당성을 검토해 개선할 계획입니다.

방통위는 가이드라인을 발표하며 생성형 AI 서비스 이용 과정에서 발생할 수 있는 잠재적 위험을 사전에 방지함으로써 안전하고 신뢰할 수 있는 생성형 AI 서비스 이용 환경을 마련하고자 한다고 밝혔습니다. 실효성 있는 실행 방안이 되도록 업계의 목소리도 충분히 반영했습니다.

물론 가이드라인에 강제성은 없습니다. 하지만 서비스 개발자와 제공자가 적극적으로 준수한다면 보다 안전한 이용자 보호 환경과 신뢰할 수 있는 서비스 생태계가 조성될 것입니다. 자연스럽게 생성형 AI 산업도 확장되겠죠. 이번 가이드라인을 통해 보다 많은 사람이 생성형 AI 서비스의 편리함을 누릴 수 있기를 기대합니다.

IT동아 한만혁 기자 (mh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ [스타트업-ing] 코딧 “법·규제·정책 동향 한눈에 확인하는 ‘정책 포털’ 만든다”▶ 인공지능 게임 그래픽 보정ㆍ가속 기술의 빛과 그림자▶ “고객 서비스 구축 과정 단축” 센드버드, A2A 기반 지능형 에이전트 서비스 공개



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 반응이 재밌어서 자꾸만 놀리고 싶은 리액션 좋은 스타는? 운영자 25/07/28 - -
5145 [리뷰] 눈까지 즐거운 야외용 블루투스 스피커, 브리츠 BZ-MG9 IT동아갤로그로 이동합니다. 04.11 362 0
5144 [KESIA 프리팁스] 바이브에이아이 “SaaS 기반 개인화 AI 서비스로 글로벌 공략” IT동아갤로그로 이동합니다. 04.11 324 0
5143 [생활 속 IT] 동네 전문가, 카카오맵으로 찾는다 IT동아갤로그로 이동합니다. 04.11 289 0
5142 [민원제로] 1. "제가 그 유명한 진상 민원인입니다만...!" IT동아갤로그로 이동합니다. 04.11 291 0
5141 씨너렉스 “확장성 뛰어난 ‘초정밀 위성항법 장치’로 자율주행 시대 맞이할 것” [2] IT동아갤로그로 이동합니다. 04.11 4990 1
5140 농림축산식품부, '농촌융복합 창업 활성화' 사업으로 가치 혁신 나선다 IT동아갤로그로 이동합니다. 04.11 287 0
5139 세종미래경제포럼 “지산학연 고도화, 지역 상생 산업계 구축” IT동아갤로그로 이동합니다. 04.11 224 0
5138 [생활 속 IT] 라인에서 실시간 통역 기능 사용하는 방법 IT동아갤로그로 이동합니다. 04.10 2541 1
5137 AI로 무장한 이통3사, 보이스피싱 탐지 기술 강화한다 IT동아갤로그로 이동합니다. 04.10 246 0
5136 자동차 보험 비교 2.0 써보니··· '실결제 가격 오차범위 내로 줄어' IT동아갤로그로 이동합니다. 04.10 240 0
5135 [IT애정남] 파일이 열려 있어 작업을 완료하지 못할 때 해결법은? [2] IT동아갤로그로 이동합니다. 04.10 1372 1
5134 무선 게이밍 기어로 게임 즐기려면 ‘지연 시간’이 중요하다 IT동아갤로그로 이동합니다. 04.10 228 0
5133 [생활 속 IT] 직접 만들어 본 카카오톡 펑, 쓸모 있는 기능일까? IT동아갤로그로 이동합니다. 04.10 2032 0
5132 델, ‘AI 레디’ 서버 및 스토리지 신제품 다수 선보여 IT동아갤로그로 이동합니다. 04.09 1995 0
5131 [신차공개] BMW ‘뉴 i4 eDrive40’·KGM ‘토레스 EVX ALPHA’ 출시 IT동아갤로그로 이동합니다. 04.09 2079 1
5130 업비트·빗썸, 가상자산 시장 회복으로 2024년 실적 개선 IT동아갤로그로 이동합니다. 04.09 206 0
5129 [주간스타트업동향] 팜스태프, 농산물 부가가치 높인 ‘하토마 잼’ 출시 外 IT동아갤로그로 이동합니다. 04.09 215 0
5128 [IT하는법] 일회성으로 전화번호 저장할 땐, '태그 추가'로 해결하자 IT동아갤로그로 이동합니다. 04.09 291 0
5127 미국의 상호 관세가 우리나라 PC 시장에 미칠 영향은? IT동아갤로그로 이동합니다. 04.09 2149 3
5126 양자컴퓨터 상용화 시기, 전망 엇갈리는 이유는? IT동아갤로그로 이동합니다. 04.08 200 0
5125 GM “SDV 시대 준비 박차·슈퍼크루즈 20개 모델 이상 적용 완료” IT동아갤로그로 이동합니다. 04.08 218 0
5124 [생활 속 IT] 아이폰 '나의 찾기'로 실시간 위치 공유·제품 찾는 방법 IT동아갤로그로 이동합니다. 04.08 911 0
5123 [IT신상공개] 수면 추적·제어 기능 더한 무선 이어폰, 디비비츠 포미버즈 IT동아갤로그로 이동합니다. 04.08 4957 1
5122 [IT’s 가성비] 원래는 전광판용? 기능 덜어 가격 낮춘 ‘삼성 비즈니스 TV’ IT동아갤로그로 이동합니다. 04.08 229 0
5121 서울과학기술대학교+동아닷컴+아이티동아, 스타트업 글로벌 홍보 증진 프로그램 MOU 체결 IT동아갤로그로 이동합니다. 04.07 206 0
5120 안성~구리 고속도로'에 적용된 첨단 기술 살펴보니 IT동아갤로그로 이동합니다. 04.07 188 0
5119 귀찮게 뜨는 광고 팝업 없애려면 이렇게! [이럴땐 이렇게!] IT동아갤로그로 이동합니다. 04.07 3029 2
5118 연구기관의 디지털 전환, KETI는 ‘NHN두레이’에서 해답 찾아 IT동아갤로그로 이동합니다. 04.07 183 0
5117 [주간투자동향] BHSN, 100억 원 규모 시리즈B 투자 유치 外 IT동아갤로그로 이동합니다. 04.07 176 0
5116 [투자를IT다] 2025년 4월 1주차 IT기업 주요 소식과 주가 흐름 IT동아갤로그로 이동합니다. 04.04 293 0
5115 네이버플러스 스토어, AI 쇼핑 앱 판도 바꿀까 IT동아갤로그로 이동합니다. 04.04 272 0
5114 신차 출시의 장으로 꾸려진 '2025 서울모빌리티쇼' 살펴보니 IT동아갤로그로 이동합니다. 04.04 279 0
5113 [리뷰] 음량/배터리 빵빵한 아웃도어용 스피커, 브리츠 BZ-WK1 IT동아갤로그로 이동합니다. 04.04 240 0
5112 [생성 AI 길라잡이] GPT-4o 이미지 생성은 왜 새삼스레 주목받는가? IT동아갤로그로 이동합니다. 04.04 234 0
5111 디스프레드 “비트코인 ETF·트럼프 당선으로 신규 투자자 증가” IT동아갤로그로 이동합니다. 04.04 233 0
5110 목재로 은은한 멋 살린 PC 케이스, 써도 될까? [11] IT동아갤로그로 이동합니다. 04.04 5726 2
5109 시스코 “AI 디펜스, 기업용 AI 보안 우려 해소” IT동아갤로그로 이동합니다. 04.04 1790 1
5108 HP, 비즈니스용 AI PC 4종 공개··· '온디바이스 AI로 오프라인 AI 구현' IT동아갤로그로 이동합니다. 04.03 321 0
5107 [크립토퀵서치] CBDC 실거래 테스트, 개인 정보는 안전한가요? [9] IT동아갤로그로 이동합니다. 04.03 963 0
5106 [기고] 화물차 불법주차가 발생할 수밖에 없는 현실과 해결책 [3] IT동아갤로그로 이동합니다. 04.03 1216 3
5105 [칼럼] 사이버 복원력에 대한 핵심 교훈, 美 사이버 안보 전략에서 배운다 IT동아갤로그로 이동합니다. 04.03 194 0
5104 디지털 금융 소외층을 위해 은행대리업 제도ㆍATM기 활성화 추진한다 IT동아갤로그로 이동합니다. 04.03 193 0
5103 첫 해외 법인 설립한 리벨리온, 일본의 '높은 벽' 넘을까 IT동아갤로그로 이동합니다. 04.03 189 0
5102 “가상자산 산업, 규제 명확성 필요한 시기” [1] IT동아갤로그로 이동합니다. 04.02 2177 0
5101 키사이트, AI 데이터센터 효율 잡는 ‘KAI 아키텍처’ 공개 IT동아갤로그로 이동합니다. 04.02 206 0
5100 [주간스타트업동향] 술담화, 전통주 추천 AI 소믈리에 서비스 출시 外 IT동아갤로그로 이동합니다. 04.02 277 0
5099 [시승기] 환원주의 디자인과 인제니움 엔진 성능의 조화 ‘뉴 레인지로버 벨라’ IT동아갤로그로 이동합니다. 04.02 188 0
5098 [ETF/퇴직연금 Q&A] 퇴직연금을 ETF에 투자해야 하는 이유 IT동아갤로그로 이동합니다. 04.02 6265 10
5097 퓨리오사AI, 이스트소프트와 NPU 교육을 구축하는 배경은? IT동아갤로그로 이동합니다. 04.02 192 0
5096 임대주택 청약 정보ㆍ신청부터 권리분석까지 가능한 앱, ‘집지켜’ IT동아갤로그로 이동합니다. 04.02 179 0
뉴스 '에스콰이어' 이진욱, "이 작품을 통해 시청자분들도 함께 마음 돌볼 수 있는 시간이 되길" 바람 전해! 디시트렌드 08.01
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2