YT YouTube2Text

YouTube2Text → Transcripts → 국내 AI 기본법 시대, ISO/IEC 42001 기반 AI 위험관리 및 인증 대응 전략

국내 AI 기본법 시대, ISO/IEC 42001 기반 AI 위험관리 및 인증 대응 전략 — Transcript

by PECB · 6,943 words · 1,415 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:05[음악]
0:10반갑습니다. 예. 어, 오늘 오후
0:13예.
0:14그 ISO 42,1 네. 2023년에
0:18제정이 됐는데 네.요 요 AI
0:20[콧방귀]
0:21어 인공지능 어 경영 시스템 기반에서
0:25얘기하는 예 AI 위험 관리에 대해서
0:27어 한시간 동안 어 좀 소개해 드리는
0:30시간 진행하도록 하겠습니다.
0:33먼저 제 소개를 먼저 드리겠습니다.
0:35저는 이성열 심사원이고요. 예
0:37근무하는 것은 DMV에서 어 선인
0:40심사원으로 어 근무를 하고 있습니다.
0:43주로 이제 심상하는 영역은 오늘 어
0:46주제로 말씀드릴 어 ISO 42,1일
0:49아 인공지능 경영 시스템 쪽에
0:51선인사원 어 그 자격을 가지고
0:54있고요. 그 외에는 이제 ISO
0:5627,1 27701
0:58정보나 개인 정보 쪽 예 선인 심사원
1:01자격도 갈 수 있습니다. 그 그
1:02외에는 ISO 2301 사업 녀속성
1:05업무 녀속성에 대한 자격과 티닥스
1:08자동차 쪽에 대한 정보 보안에 대한
1:11그 표준 예 심사 자격을 가지고
1:14DMV에서 근무를 하고 있습니다.네
1:17오늘 그 소개해드릴 대략적인 예
1:21아젠다에 대해서 말씀을 드리겠습니다.
1:23요번 웨비나은 그 PCB 주관으로
1:26해서 저희 DMV와 함께 진행을 하고
1:28있습니다. 그래서 간단하게 이제 저희
1:30DMV에 대한 소개 전달해 드리고요.
1:33그다음에음
1:36인공지능 이해 관계자나 이제 신뢰할
1:38수 있는 인공지능이라는 몇 가지
1:39용어에 대해서 먼저 이해를 하셔야
1:41됩니다. 그래서 AI 스테이크홀더
1:43그리고 이제 트러스트 월 AI에
1:45대해서 설명드리고 그다음에 책임 있는
1:48인공지능 리스블 AI에 대한 개념 예
1:51설명을 좀 드리겠습니다. 그리고
1:53리스폰스벌 AI의 한 그 종류로
1:56말씀드릴 수 있는데 그거는 이제 IS
1:59421 인공지능 경영 시스템음
2:01간단하게 소개해 드리고요. 그다음
2:04이제 인공지능 위험 관리 위험 평가
2:07영향 평가이 IS 421의 이제 핵심
2:10요구사항인데요.이 이 위험 관리 위험
2:14평가 영향 평가가 42,000일에서
2:16어떻게 구현대 어떻게 소개를 하고
2:18있는지 차례대로 설명하면서 어이
2:21슬라이드 어 요비할 시간 진행하도록
2:24하겠습니다.
2:26먼저 예 DMV 먼저 소개를
2:28드리겠습니다. 어 많은 분이 아실
2:31이제 많이 아실 것 같은데 저희는
2:33이제 DMV는 노르웨이의 그 기반을
2:36두고 있는 예 인증 기관이고요.
2:381864년에 생명과 재산 환경을
2:41보하는 목적으로 해서 설립이
2:42됐습니다. 주로 이제 사업분화는 이제
2:45경영 시스템에 대한 인증이나 교육
2:48그리고 그 외에는 에너지 시스템에
2:49대한 엔지니어링 서비스 그리고
2:51생명과학 라이프 사이언스 쪽에 대한
2:54컨설팅이나 인증 그리고 조선 해양
2:56쪽에 성급 그리고 성장 지원 쪽에
3:00있는 엑셀레이터 이렇게 사업 크게
3:02사업 분야를 가지고 있고요. 주요
3:04지표는 저희가 한 10만 개 이상의
3:07고객사 글로벌하게 그리고 100개의
3:09국가 이상의 예
3:12국가에 진출을 하고 있고요. 저
3:13임직원수가 한 15,000명 이상 예
3:15근무를 하고 있습니다. 그 외에는 한
3:19저희가 인증서를 유지 관리하는
3:22인증서가 한 9만 건 정도 어 지금
3:25되고 있고요. 그 외에 이제 매년
3:29글로벌하게 매출에 한 5%는 R&D
3:31쪽에다가 예, 계속 투자를 하고
3:33있습니다. 네.요 정도 저희 DMV
3:36소개해 드리고 그다음에 저희
3:38DMV에서 제공하는 이제 서비스에
3:40대한 요약입니다. 예.
3:42품질 안전 완전 보건 품질환경
3:45안전보건 요거는 이제 전통적인 제조
3:48분야에서 주로 이제 인증을 유지하고
3:50있는 저희가 제공하고 있는
3:52서비스고요. 그 밑에는 이제
3:53우주항공이나 그 자동차 모빌리티 쪽에
3:56인증 서비스도 같이 진행을 하고
3:58있습니다. 그리고 제가 주로 이제
4:00담당하고 있는 분야가 ICT 정보
4:02통신 쪽에 예 ISO 27,1일
4:05계열의 정보보안 쪽 서비스 그리고
4:10어 작년부터 어 저희가 진행하게 되는
4:123만2,000 인공지능 그 외에 이제
4:14사업 녀석이나 자동차 사이버 보안
4:16어떤 클라우드 보안 쪽에 예 저희가
4:19서비스를 제공을 하고 있고요. 그
4:21외에는 이제 화면 보시기에 이제 오른
4:23오른쪽 예 식품 안전 그리고 지속량
4:26서비스 아마 여러분들이 회사에
4:30이제 근무하시는 분이 많을 텐데
4:31아니면 컨설턴 컨설팅을 하시거나 아마
4:34회사에서 제3자 인증이나 검사 어
4:37그런음 어 검증 같은
4:41제 3자 입장에서의 서비스의
4:44거의 모든 분야에 대한 인증 서비스를
4:45제공한다 하고 있다라고 이제 이해를
4:47하시면은 될 것 있습니다.
4:50[기침]
4:52네. 저 정보 쪽에서 주로 이제 인증
4:54서비스 진행하고 있는데요. 주로 이제
4:56인공지능 서비스 최근에 문의가 굉장히
4:58많습니다. 그래서 어제 오늘도 예,
5:00문의가 있는 걸 좀 대응하고 있고요.
5:02그다음에 클라우드와 관련된 그 인증
5:05그리고 프라이버시 개인 정보죠.
5:07우리나라에서 좀 이슈가 많이 되고
5:08있고요. 그 이제 오른쪽에 ISO
5:1127,000의 정보안에 대한 그 인증
5:13시리즈 이런 부분의 주요 저희 서비스
5:16어 ICT 쪽에 예 주로 서비스
5:18라인으로 구성이 돼 있습니다. 인증에
5:20관해서 문의는 오른쪽 아래에음 정용주
5:23책임 연락처가 있습니다. 그래서
5:25인증에 대한 문의는 아래 연락처로 어
5:27연락을 주시면은 저희가 대응하도록
5:29하겠습니다.
5:31네. 그리고 요번에 진행되는 DMV
5:34PC 예, 같이 진행하는 교육
5:37서비스에 대한 부분입니다. 어,요
5:40DMV 서비스는 그 저희 저도 이제
5:43심사를 진행하고 ISO 심사원이 직접
5:46교육을 진행을 하고 있고요. 그리고
5:48이제 현업에서 그 어, AI를
5:51적용하고 운영하고 있는 그런 사례들
5:53그 프레임워에 대한 기반들 설명을
5:55같이 제공을 하고 있습니다. 그리고
5:57이제 ISO2,000일 그대로 이제
6:00인증에 대한 표준이니까 그대로 이제
6:02기본에 대한 설명드리면서 우리나라
6:04환경에 맞는 그런 부분들도 같이
6:07최대한
6:08논의하면서 가이드를 제공을 하고
6:09있습니다. 예. 교육한 다음에 자격증
6:12받으셔야 되죠. 예. 그때까지 저희가
6:15예 확실하게 지원을 해 드리고
6:17있고요. 예. 저희 DMV는 저희
6:19글로벌 그래도 탑에 속하는 인증
6:22기관이기 때문에 신뢰하고 교육을
6:24받아보실 수가 있습니다. 저희
6:2642,000 심상원 과정 예 좀 많이
6:29문의를 하시는데 예 어 올해 교육은
6:3211월 9일부터 13일 일주일 동안
6:35진행이 됩니다. 그 교육은 월요일부터
6:37목요일까지 교육이 진행되고 마지막
6:39날은 시험 그래서 시험에 패스를
6:41하시면은 ISO 3천 심사원 자격을
6:44획득하실 수가 있습니다. 그래서
6:46교육에 관한 문이 지금 많이 돼
6:48있는데 이거 저희가 보 어 교육은 어
6:51광화문에 있는 교보문구 교보 빌딩에서
6:54광화문에서 진행을 합니다. 그래서
6:55물리적인 공간 때문에 어 인원이
6:58많으면은 저희가 다 수용을 못 하기
6:59때문에 좀 서둘러서 어 11월인데
7:02서둘러서 어 교육 어 좀 참여를
7:05신청해 주시면은 예 교육을 받아 보실
7:07수가 있습니다.네
7:10>> [콧방귀]
7:11>> 예. 본격적으로 ISO 42,000
7:13기반의 어떤 AI 위험 관리에 대해서
7:15이제 설명을 드릴 텐데 요즘에 지금
7:18회사에 저희가 이제 1년 동안 수식
7:21회사의 인증 서비스 인증을 제가
7:24다니는데 보통 보면은 이제 그 인증
7:27AI에 대해서 어 도입을 많이 고민을
7:30하세요. 그래서 제품이나 서비스를
7:32개발하시는 회사부터 시작해서이를 그쪽
7:35별포하고 또 도입을 했으면 운영을
7:37하고 또 사용하는 것까지 예 그런
7:39전체적인 그 인공지능과 관련된 이제
7:42수명 주기가 있는데 그 [콧방귀]
7:43인공지능이라는게 기 예전에 다른 어떤
7:46서비스하고 좀 다른게 어 기존의 어떤
7:50시스템은 사람이 정의한 기능을
7:52수행하는 그런 특성에 있는 거에
7:55비해서 인공지능이라는게 여러분들 많이
7:57아시겠지만 이제 데이터에 기반해서 어
8:00룰이 아닌 사람이 정의한 룰이 아닌
8:02데이터에 기반해서 그 실행을 하다
8:04보니까는 향 후에 이제 운영을 하다
8:06보면은 결과값이 달라질 수가
8:08있습니다. 그런 것들을 그
8:10운영하시거나 도입하시는 분들은 당연히
8:12인지하고 계시기 때문에 이런 이제
8:14인공지능 시스템이 저희가 활용하면서
8:17이게 누구에게 어떻게 영향을 미칠
8:20것인가에 대한 고민이 어 가장 지금
8:22많은 거 같고요. 그래서이 그
8:24기업에서 도입한 인공지능이나 인공지능
8:27시스템을 어떻게 신뢰할 수 있는가?
8:29어 이게 도입하고서는 운영을 하고
8:31있는데 혹시나 의도하지 않은 결과가
8:33나와서 도입의 효과가 떨어지진
8:35않는가? 도입 목적이 맞지 않게
8:37운영되고 있는 건 아닌가? 그런
8:38고민들이 예 좀 많으신 거 같습니다.
8:42네.
8:44그 ISO에서 주조 주로 많이 나오는
8:47그 용어들 중에 하나가 그 스테크홀더
8:50이해 관계자라는 말이 나오는데 어 I
8:54AI 인공지능과 관련된 표준에서 이제
8:57ISO2 989는 이제 인공지능과
9:00관련된 용어나 이제 컨셉을 정의한
9:02표준 문서입니다. 그래서 다른
9:04ISO하고 좀 차별이 되게 AI
9:07스테크홀더 이해 관계자에 대한 부분을
9:10여섯 개로 해서 정의를 해 놨습니다.
9:12예. 옆에 보면은 이제 AI
9:13프로바이더 그니까 인공지능 서비스나
9:16제품을 제공하는 회사 주로 이제
9:18여러분들이 많이 요즘에 쓰시는 그
9:21GPT 서비스들이 여기에 해당이 될
9:23거고요. 그 인공지능 생산자 이제
9:25주로 개발자가 되는데요. 그거는 이제
9:28인공지능을 오프소스 같은 거 많이
9:30도입해서 운영하시는데이를
9:33어 도입을 해서 어 업무에 활용하기
9:36위해서 어떤 이제 인티그레이션
9:38과정에서 개발하는 것까지 포함해서 어
9:41이렇게 개발자 생산자 역할이 되고요.
9:43그다음에 인공지능을 도입하거나 아니면
9:45서비스 형태로 저 사용하시는 AI
9:48커스터머 또 이제 인공지능 이해
9:51관계자로 정의가 돼 있고 그외 이제
9:53인공지능 서비스를 제공하고 제공하데
9:56있어서 관련된 파트너들도 있고 AI
10:00서브젝트라고 해서 인공지능 주체거나
10:02사용하는 주체도 될 수 있고요.
10:04아니면 영향받는 개인이나 단체도 AI
10:07서브젝트로 어 인공 그 이해 관계자로
10:09분류가 돼 있습니다. 그리고 이제
10:11관계 기관 이제 정부나 단체 그런
10:14데가 이제 또 인공지능 이해 관계자로
10:16어 정의가 돼 있고요. 어이
10:19989에서 얘기하는 이제 이런 이해
10:20관계자에 대한 기대 사항을네 가지로
10:23지금 분리를 하고 있는데 첫 번째는
10:25이제 품질이나 경고성에 대한
10:27보상입니다.이 이 어 도입하고 개발
10:30개발하고 도입하고 사용하는 AI가
10:33최신의 규칙이나 표준에 따라서 잘
10:36설계가 되고 검증이 돼서 품질감
10:39경고성을 보장하고 있는가라는 이제
10:41하나의 기대상이 있을 거고요.
10:43그다음에 이해관계. 두 번째로는 이해
10:45관계자의 편익이나 투명성. 그 이해
10:47관계자의 이익과 목적에 목적 달성을
10:50위해서 개발이 됐는지 또 알고리즘의
10:53작동 원리나 시스템의 기회를 이해할
10:55수 있도록 이런 AI를 개발한 쪽에서
10:58그런 중부를 정보를 충분히 제공하고
11:00있는 투명성을 확보하고 있는가? 어
11:03그런 부분들이
11:05두 번째 기대상이 되고요.
11:07인공지능을 도입해서 사용을 하다
11:09보면은 운영하고 결과에 대한 부분으로
11:12좀 나누다 보면은 실행에 대한
11:14책임과이 결과에 대한 책임에 대해서
11:17책임성을 확보할 수 있는 주체를
11:19명확하게 식별하고 있는가? 그니까
11:21어디까지가 사용자의 책임이고
11:23어디까지가 어 이런 이해 관계자의
11:25어떤 프로바이더나 프로듀서의 책임인가
11:27뭐 그런 부분들도 하나의 고민거리가
11:29아 되고 있습니다. 그 지역적 사회적
11:32특성에 대해서 고려한다고 해서
11:34마지막네 번째 기대 사항이 있는데이는
11:37어 요즘에 여러분들이 혹시 인공지능을
11:41사용하고 계시다 보면은 대부분
11:43우리나라 국내 제품이나 서비스도
11:45있겠지만 해외 제품들이 많죠.
11:48그런 제품들을 이제 우리나라도 쓰지만
11:49다른 나라에서도 쓸 거고 그랬을 때
11:52사용하는 지역의 법률이나 문화 아니면
11:55사회적인 요구 사항들 이런 부분들이
11:57충분히 고려가 돼서 우리나라에서
12:00아니면 우리 회사에서 쓸 수 있는가
12:02이게 대각네 가지의 기대상으로이
12:04989에서는 분류를 해서 어 정리를
12:07하고 있습니다.
12:10그다음에 나오는게 트러스트 월니스라고
12:12해서 이제 신뢰성이라고 지금 돼
12:14있는데 같은게 22989 표준에서이
12:18신뢰성에 대한 정의를 지금 아래
12:20박스에서처럼 하고 있습니다. 그래서
12:22앞서 말씀드린 인공지능 이해 관계자의
12:24기대를 검증 가능한 방식으로 충족할
12:27수 있는 능력이라고 일단 정의를 지금
12:30하고 있습니다. 그래서인 그 인공 그
12:34AI의 그 인공지능 이해 관계자가 어
12:38인공지능 서비스나 제품을 개발하거나
12:40사용하거나 어 아니면은 그 관리에
12:43대한 부분이 있을 때 이런 부분들을
12:46신뢰성에 대한 부분을 어 충족할 수
12:48있는지 보는 거를 트래스 시니스
12:50신뢰성이라고 지금 정의를 하고
12:52있고요. 크게 이제네 가지로 하면은
12:54이해 관계자에 대한 기대 앞서
12:57말씀드린네 가지 분류에 대한 거 그런
12:59특성에 대해서 분류를 하고 있는지
13:01그리고 인공지능이 사용하고 있는
13:03환경별로 그런 특성들을 선정해서 따로
13:06평가를 할 수 있는지 구분해서 볼 수
13:08있는지에 대한 부분 그리고 이런
13:10특성들이 어 어떤 설계하거나 운영할
13:13때 이거 검증이 가능한 건지 예
13:15그리고 이제 인공지능이 사용되는 지역
13:18위주로 해서 어떤 문화나 법률 요런
13:20부분들을 잘 반영하고 있는지 그렇게
13:22크게 게네 가지로 이제 분류를 할 수
13:25있는데이 표준에서 볼 수 있는 거는
13:28그 트레스월 AI라고 해 가지고 이런
13:32그 특성에 대해서 앞서 말씀드렸던
13:35그런 인공지능 신뢰할 수 있는
13:36인공지능이 가지고 있는 특성을 여덟
13:39가지로 불해서 정의를 하고 있습니다.
13:42그래서 어 신뢰할 수 있는
13:43인공지능이라는 거는요 이제 여덟 가지
13:46특성을 반영을 하고 있어야 되는데
13:49그리고 또 검증 가능하는 방식으로 어
13:52보유를 하고 있어야 되는데 첫 번째가
13:54경고성에 대한 특성을 두고 있습니다.
13:57정상이나 비정상인 조건에서 그래도
13:59기도한 성능 수준을 잘 유지하고
14:01있는지 단단하게 구축이 돼 있는지 첫
14:04번째가 경고성이고요. 운영 단계에서
14:06정확하고 안정적인 결과를 지속적으로
14:08선출할 수 있는지이 부분을 신뢰성에
14:10대한 특성으로 두고 있습니다. 세
14:12>> [콧방귀]
14:12>> 번째는 이제 사고나 장애 했을 때
14:15이거 이러한 상황에서 신속하게
14:17회복해서 기대한 성능으로 다시 어
14:20서비스가 가능한지 그리고 회복
14:21탄력성에 대한 특성을 얘기하고
14:23있고요. 통제 가능성이라고 하는 거는
14:26이제 요즘에 많이 나오는 이제 피지컬
14:28AI 아니면 자율주행 관련이 있을
14:30텐데 인간이나 이제 외부체가
14:32인공지능이 작동을 할 때 중간에
14:35개입하거나 제할 수 있는가에 대한
14:37특성을 통제 가능성이라고 설명을 하고
14:39있습니다. 그리고 이제 설명 가능성
14:41다섯 번째 설명 가능성은 인공지능에
14:44대한 이제 결과가 나왔을 때이 결과가
14:47어떠한 방식으로 나왔는지에 대한 그런
14:49그 인공지능이 동작할 때 어떤 그
14:51요소들 그런 부분들을 이제 설명할 수
14:54있는지 그런 부분들을 이제 설명
14:55가능성이라고 돼 있고 이해 관계자가
14:58AI의 결과나 행동을 합리적으로
15:00예상할 수 있 있는 정도 그런 특성을
15:03예측 가능성으로 정의를 하고
15:05있습니다. 그다음에 투명성 같은
15:07경우에 이제 AI에 대한 그 모델이나
15:10서비스, 제품을 제공하는 입장에서
15:12사용자에게이 AI의 목적이나 한계,
15:16데이터, 설계 이런 시스템에 대한
15:18특성들 기술적인 거 포함해서네 어떤
15:21위험이나 위험에 대한 상들을 포함해서
15:24이해 관계자에게 얼마나 충실하게
15:26제공하고 있는가 이거를 이제 투명성
15:28특성으로 정리를 하고 있고요.
15:31아무래도 이제 AI라는게 마지막으로는
15:34AI라는게 이제 데이터에 기반해서
15:36동작을 하다 보니까는 데이터에 따라서
15:38편양이 발생할 수 있고 이로 인해서
15:41공정성이 위반이 될 수 있습니다.
15:43그래서 이런 불공정성에 대한 그
15:46편양이 발생했을 때 어떻게 식별하고
15:47일을 완화할 수 있는지 요런 여덟
15:49가지 특성을 신뢰할 수 있는
15:52인공지능의 여덟 가지 특성으로 ISO
15:5422989에서는 예 정의를 하고
15:57있습니다. 예.
15:59근데 이제요 부분을 이제 여덟 가지
16:01특성을 한네 가지 정도로 다시 분류를
16:03해 보면은 기술적 품질에서 경고성,
16:06신뢰성, 회복 탄력성 이렇게 지금
16:08분류를 할 수가 있고요. 검 사용자
16:10입장에서 검증 가능성에 대해서는 설명
16:13가능한지 예측이 가능한지 그리고
16:16충분히 충분한 정보를 제공하고 있는지
16:18투명성에 대한 부분이고 책임
16:20구조에서는 통제 가능성 인간이 어
16:24중간에 예가 개입을 해서 어
16:26인공지능을 제어할 수 있는지 이런
16:28부분과 편안과 공정성하고 관련된
16:31일리나 규제 이렇게네 가지로 특성을
16:34다시 구분해서 볼 수가 있습니다.
16:37네. 그다음에 이제 설명해야 되는게
16:40이제 리스폰블 AI 책임 있는
16:42인공지능이라고 돼 있는데 앞에서
16:45말씀드린 트러스트월 AI 그러니까 어
16:49신뢰할 수 있는 인공지능인데이를
16:51구현하기 위해서 적 구현하기 위한
16:54접근법 또는 관리 원칙 아니 방법론
16:57이거를 트 리스폰서블 AI라고 뭐
17:01같이 설명을 하고 있습니다. 그래서
17:03지금 아래에서 이제 아홉 개 정도에
17:05제가 예시를 들었는데 OEC더 이유
17:08같은 데서는 이제 그 국가의 단체죠.
17:11예. 단체에서 이런 이제 AI 관련된
17:14어떤 기준을 정하는 거 이것도 어
17:16어떤 그 책임 있는 인공지능 어떤
17:19트러스트 어 신뢰할 수 있는
17:21인공지능을 위한 방법론에 하나로
17:23제시하고 있는 리스폰블 AI 한 예가
17:26되고요. 옆에 있는 이제 리스트 미국
17:28표준이죠. 예. 그리고 오늘 말씀드릴
17:31주제였던 ISO 3000. 그리고
17:34요런 것들을 이제 단체나 국가 아니면
17:37국가가 모인 단체에서 예, 만들어
17:39놓은 그 리스폰서블 AI의 한 예가
17:42되는 거고 그 중간에 마이크로소프트나
17:45구글, 엔트로픽, 또 오픈 AI,
17:47AWS 이런 그 회사들 인공지능
17:50서비스나 제품을 제공하는 회사들에서는
17:53본인들 제품이나 서비스에 대한 그
17:56신뢰할 수 있는 AI를 어떻게
17:58제공하고 있는지 그 리스폰스 AI에
18:00대한 부분들을 예, 홈페이지나 그런
18:02데서 공개적으로 으로 어 제공을 하고
18:04있습니다.
18:06네.이
18:07이 어 앞서 말씀드렸던 그 예시
18:10같은게가 동일한 내용을 가지고 있지
18:12않고 약간 지금 특성이 있는데 주로
18:14이제 원칙만 제공하고 있는 건
18:16OECD나 이유 아니면 구글 AI
18:18프린플 이거는 이제 원칙을 제공을
18:21하고 있고요. 위험 관리 컨셉으로
18:23하고 있는게 니스티의 AI 예 리스크
18:27매니지먼트 프레임업 그리고 엔트로픽의
18:29리스폰블 스케일링 플러시 요게 이제
18:31위험에 기반한 어떤 리스폰서블 AI를
18:35AI에 대한 예시를 제공하고 있고요.
18:38그리고 이제 PDCA에 기반해서
18:40인공지능에
18:41대해서 어떻게 운영을 할 건지 어떻게
18:43개발할 건지에 대한 부분들 IS
18:4542,000에서 어 제공을 하고
18:47있습니다. 그리고 MS,
18:49마이크로소프트나 오픈 AI, 메타,
18:51AWS 요런 데서는 제품이나
18:54서비스에서 어 적용 제품이나 서비스에
18:57적용된 리스판 책임 있는 AI에 대한
19:00부분들을에 제시를 지금 하고
19:02있습니다.
19:04예. 그다음에 이제 ISO 42,1에
19:07대한 부분인데 앞서 리스폰스벌 AI가
19:10어 신뢰할 수 있는 인공지능을
19:12구현하기 위한 하나의 이제 방법론에
19:14대해서 통칭을 하고 있다고 했는데
19:17그중에서 하나 그 중에 하나가 이제
19:18ISO 421 예 인공지능 경영
19:22시스템 인공지능 관리 체계가지
19:24됩니다. 간단하게 소개해 드리자면은
19:26인공지능 관리 체계 첫 번째 어 조직
19:29차원에서 인공지능 관리 체계를
19:31수립하고 구현하고 유지하고 또이를
19:33지속적으로 개선하기 위한 요구
19:35사항들이 3 2001에 있습니다.
19:37그리고 인공지능 시스템과 관련해서
19:40이해 관계자 앞서 말씀드렸 이해
19:42관계자들이 어떠한 역할과 어떤 책임을
19:44지는지에 대한 가이드 같이 지금
19:46제공을 하고 있고요. 그 인공지능
19:49시스템을 활용한 제품 아니면 서비스를
19:52사용하는 모든 조직에서이
19:5542,일은 예, 활용을 할 수가
19:57있습니다. 그 다른 그 리스폰스
19:59AI의 예제하고 비교했을 때 가장 큰
20:02차이점이라는 거는 어 인공지능 관리
20:05시스템을
20:07리스 그 트란스워시안 예 책임 있는
20:09인공지능을
20:11어 구현하고 있다라는 거를 최초로
20:13인증 가능한 표준으로 해서 대회에 어
20:17알릴 수 있는 어 그런 표준이
20:19되겠고요.
20:20요즘에 이제 기업들 특히나 이제
20:22우리나라에서 국내에서는 예 그 정보
20:25보안 개인 정보와 관련된 그런
20:26이슈들이 많고 실제음
20:30어 AI가 어 인공지능이 이제 사람의
20:34어떤 정보를 데이터에 기반하다 보니까
20:37보안과 관련된 이슈들이 좀 많이
20:39있는데요. 이런 것들은 기존에 정개
20:42어 기업에서 IS 27,이나
20:442770나 어 그런 경영 시스템 관리
20:47체계와 통합 운영이 가능한 구조로 어
20:503000일이 예 제정이 됐습니다.요
20:55이제 3 2001에서
20:58제공하고 있는 그 위험 관리에 대한
21:01부분 그 주요 요구 사항들 좀 살펴볼
21:04필요가 있겠는데요. 다른 요구
21:05사항들은 이제 다른 ISO 표준과
21:08거의 유사합니다.네 예,요 부분은
21:10제가 이제 음, 한 여러 차례 수차례
21:14이제 27 아, 저기 321과 관련된
21:18교육을 했을 때 예, 그 교육을
21:20들으시는 분들이 예, 좀 많이
21:22헷갈려하셔 가지고 말씀을 드신 건데
21:24어, ISO 42,1일에서 그
21:27인공지능 위험 관리하고 하는 요구
21:29사항은 두 가지로 나눠져 있습니다.
21:31첫 번째 6장 플래닝에서는 예,
21:34플래닝하고 이제 오퍼레이션 두 군데서
21:36이제 인공지능의 위험 관리에 대한
21:38부분들 요구 사항이 정해져 있는데
21:406장 플래닝에서 제 그 얘기하고 있는
21:44그 위험 관리는 인공지능에 대한 그
21:47인공지능 위험 관리에 대한 어 계획
21:51그리고 절차를 마련하는 어 그런
21:54방향으로 요구 사항이 있고 실제 요구
21:56사항 기반에서 8장 오퍼레이션에서는
21:59인공지능에 대한 위험 평가 평가를
22:01하고 위험 처리를 하고 인공지능
22:03시스템에 대한 영향 평가를 수행하는이
22:05두 가지로 크게 좀 나눠져 있습니다.
22:09여러분들이 첫 번째 기억할 거는
22:1042,000일의 인공지능 위험 관리에
22:13대한 요구 사항은 예 계획 부분과 예
22:16운영 부분으로 지금 나눠져 있고 예
22:19여기서는 어 6.1.2 2 위험 평가
22:22위험 처리 시스템 영양 평가 이거
22:25이제 위험 평가나 위험 처리 영향
22:27평가에 걸친 계획을 수립하는 지금
22:29부분이고요. 여기서 계획에서 이제
22:31절차나 계획을 수립을 했으면 활장에
22:34있는 운영에서는 인공지능에 대한 위험
22:36평가를 수행하고 어떻게 결과를 그
22:39산출물을 관리를 해야 되는지 위험
22:41처리를 하고 그 이후에이 위험 처리에
22:44대한 요구사 그리고 실제 영향 평가를
22:47하고 어떻게 그 결과물을 유지해야
22:49되는지 예 그런 부분들로 크게 두
22:51가지로 지금 나눠져 있습니다.
22:566.1점 6.1에서 1회에서 요구하고
22:59있는 위험 평가에 대한 어떤 그
23:02내용들 좀 간략하게 제가 정리를 좀
23:04해 봤는데요. 첫 번째는 6.1.1
23:07일반 사항에서는 어 위험 평가에
23:11대한 어떤 기준을 마련할 때의
23:13일반적인 원칙을 얘기를 합니다.
23:14그래서 첫 번째 예 조직의 상황이나
23:18예 그럼 이해 관계자 요구상을 고려해
23:20가지고 위험 평가에 대한 절차를
23:22마련해야 되고요. 그리고 반복적이고
23:25일관성이 있고 타당성이 있고 비교
23:27가능한 결과를 도축할 수 있도록 그
23:29AI에 대한 그 위험 평가 절차를
23:33마련해야 됩니다.이 이 부분은 제가
23:35이제 수찰에 이제 심사를 좀 해 봤을
23:37때 많이 놓치고 있는 부분인데 보통
23:40위험 평가를 어 1년에 한 번 정도
23:42수행하시긴 하지만 단발성으로 하시는
23:45회사가 많습니다. 근데 1년에 한
23:47번씩 주기주로 반복적으로 해야 되고
23:49그다음에 일관성 있게 기존이 한번
23:51세워지면은 다른 사유가 없는 한 같은
23:54기준으로 가급적 적용해서 일관성께
23:56평가를 해야 되고 결정적으로 비교
23:59가능한 결과를 도출할 수 있어야
24:00됩니다. 어 이게 이제 심사를 해
24:03보면은 어 올해 위험 평가에 대한
24:07결과는 있는데 작년도의 그 위험
24:09평가에 대한 결과하고 비교를 하 그
24:13빼먹으시는 회사들이 많아요. 그래서
24:15작년과 올해의 위험 평가에 그 비교를
24:19해서 어떤 환경이 달라졌는지 어
24:22위험이 더 식별된게 있는지 위험
24:24처리는 잘 됐는지 그런 부분들을 지금
24:26확인해야 되기 때문에 요런 부분들은
24:28따로 지금 말씀을 드리고요.
24:31그다음에네 번째 그 보시면은 ISO
24:3423894라는 이제 표준이 있는데
24:37얘는 이제 인공지능에서 위험 평가를
24:40할 때 어떻게 되는지를 가이드로 따로
24:42이제 문서로 지금 정의를 하고
24:43있습니다. 뒷장에서 이제 부분적으로
24:45발치해서 말씀을 드릴 거고요.
24:48그다음에 인공지능 위험 평가를 할
24:50때에 대한 어떤 절차의 그 요구
24:52사항에 대해서 지금 얘기를 하고
24:54있는데 위험 평가를 절차를 정의하고
24:56문서화를 해야 되는게 주 핵심 요구
24:59사항입니다. 그래서 저희가 심사를 할
25:01때 예, 인공지능 위험 평가 절차서나
25:04지침서가 있는지 예, 문서화된 절차가
25:06있는지를 먼저 확인을 하고요. 그
25:08문서 안에 요런 세 가지 단계 처음에
25:10위험을 식별하고
25:12위험 분석을 하고 위험 평가를
25:14했는지요 세각에 포함되는지를
25:16확인하는데 위험 식별이라고 하는 거는
25:19말 그대로 위험을 찾아내는 겁니다.
25:20예. 그리고 위험 분석이라는 거는
25:22위험 수준을 결정하는데 위험 수준을
25:25결정한다는 거는 쉽게 얘기하면 점수를
25:27내기는 겁니다. 상중하가 됐든 아니면
25:30시점 척도가 됐든 오전 척도가 됐든
25:33위험에 대해서 각 개별 위험에 대해서
25:35그 점수를 매기는 방법이고요.
25:39마지막에 있는 리스크 이밸루베이션
25:40위험 평가에 대해서는 그 윗단 위험
25:43분석에서 점수를 내겼으면은이 점수에
25:46따라서 어떤 위험들을 처리할 건지에
25:48대한 그 처리의 우선 순위를 결정하는
25:50거 그걸 리스크 이밸루에이션이라고 돼
25:53있는데 요런 아이덴티피케이션
25:55애널리시스 이밸루에이션까지요
25:58세 단계에 대한 부분이이 절차에
25:59포함이 돼 있는지를
26:01심사를 할 때 주요 포커스로 지금
26:03보고 있습니다. 그니까 위험 평가를
26:05했으면 그다음에 위험 처를 해야
26:07되는데요. 위험 처에 대한 부분도
26:09분명히 절차가 문서가 돼 있어야
26:11됩니다. 그래서 인공지용 위험 처리
26:13절차서 아니면은 지침서가 있어야
26:16되고요. 여기까지 설명드리면 아마
26:19다른 분들이 질문을 주실 만한게 예
26:22인공지능 위험 평가 절차서와 절차서와
26:26위험 처리 절차서가 따로 있어야
26:27되나요? 그런 질문을 하시는데 크게는
26:30상관없습니다. 예. 평가 위험 평가와
26:33관련된 절 침서나 절차서에 처리에
26:35대한 내용이 같이 있어도 크게 상관은
26:37없습니다. 참고로 말씀드리고요. 아,
26:40그리고 제가 빠뜨렸는데 저기 설명을
26:43드리다가 혹시 그 궁금하신 점이나
26:45질문 사항이 있으시면은 그 채팅창
26:47위에 그 퀘스천마크 예, 퀘스천
26:50마크가 있습니다. 그걸 누르시고
26:52질문을 적어 주시면은 세션이 끝난
26:55다음에 뭐 어, 몰아서 자, 제가
26:57답변을 좀 해 드리도록 하겠습니다.
26:59예, 참고하시고요.
27:02예.이어서 이어서 위험 처리에 관한
27:04부분들 어 진행을 하면은 위험 처리
27:07옵션을 결정하고 통제를 결정해야
27:08되는데 IS 421 뒷안스 A에
27:12보면은 통제 항목 38개의 통제
27:14항목이 있습니다. 이거는 이제 ISO
27:17그 421에서
27:19어 위험을 통지하기 위한 어떤 수단을
27:22참고적으로 이제 제공을 하고 있고요.
27:24그래서 위험 처리, 위험 통제에
27:26[목을 가다듬음] 대한 내용이 결정이
27:28됐으면은요 이제 그 통제 항목에
27:31대해서 적용성 명세서 우리 회사는
27:33이런 인공지능 위험에 이렇게 처리를
27:36하고 있습니다라고 하는 부분을 문서로
27:38만든 적용성 명세서를 작성을 하게
27:40됩니다. 예. 그리고 위험 처리
27:43계획을 수립한 이후에 남아 있는
27:45인공지능에 대한 위험에 대해서 수용
27:47여부를 결정을 해야 되고요.이
27:49최종적인 결정은 경쟁 스인까지 그
27:53완료가 돼야지만 하는 절차로 요구
27:55사항이 그 나와 있습니다. 예.
27:59그 다음에 나와 있는게 이제 인공지능
28:00시스템 영양 평가가 되는데요.이 역시
28:03이제 영향 평가에 대한 결과에 대한
28:04문서화를 이제 요구 사항을 하고 있고
28:07그 요구를 하고 있고요. 인공지능
28:09시스템이 개인이나 개인 그룹 사회
28:11미치는 영향을 평가하도록 돼
28:13있습니다. 예. 그리고 인공지능의
28:14영향 평가를 고려할 때 기술적인
28:16사항이나 환경이나 적용 법률 요런
28:19부분들을 그 고려를 해야 되고요.
28:22그리고 연어 평가 결과는 만약에 이해
28:25관계자가 제공을 한 제공을 이해
28:28관계자에게 제공을 해야 되는 부분도
28:29있고 어 영양 평가상 좀 영 결과 좀
28:33심각한 영향이 예상이 된다라고
28:35하면은이는 위험 평가에 반영하는
28:38구조로 지금 돼 있습니다. 일단
28:40여기까지 설명드리면은 많은 분들이
28:42하나 고민하시는게 아, 궁금해하시는게
28:45위험 평가와 영향 평가의 차이가
28:47뭔가요? 두 개 비슷한 거
28:48아닌가요라고 이제 질문을 많이
28:50하시는데 인공지능 위험 평가가 영향
28:53평가보다 좀 범위가 넓습니다. 그래서
28:55위험 평가 인공지능 위험 평가를
28:57정의를 한다면은 인공지능이 의도하고자
29:00하는 결과에 영향을 미치는 긍정적
29:03부정적인 어떤 불확식성 불확실성에
29:07대한 부분을 평가하고 관리하는게 위연
29:09평가가 되고요. 인공지능 시스템 영향
29:12평가는 대상이 정해져 있습니다. 어,
29:15여기 뒤에 그 두 번째 보시면은
29:17개인이나 그룹 또 사회에 미치는
29:19영향을 평가한다고 딱 대상이 정해져
29:21있고요. 뒤에서 설명드리겠지만 주로
29:23이제 기술적인 내용보다는
29:26개인의 권리, 인권 어, 그런 부분들
29:30개인의 인권, 뭐 사회적인 어떤
29:31차별이나 그런 권리에 대한 부분에
29:33대한
29:34평가를 하는게 영향 평가의 주 대상이
29:37되고 내용이 되고 있습니다. 예.
29:41그다음 이제 위험 그 8장에서 그
29:446장에 6장 플래닝 쪽에서 위험
29:47관리, 위험 평가, 영향 평가에 대한
29:49어떤 계획, 절차를 수립한다면 그걸
29:51그대로 이제 이행을 하는게 8장에서의
29:54이제 요구 사항이 되는데요. 여기서는
29:56이제 6.1.3 예. 인공지능 위험
30:00처리에 따른 통제를 실제로 구현을
30:02해야 된다는 얘기고요. 예.
30:0542,000 표준을 보시면은 A의
30:07위험 통제의 목적이나 통제 항목들이
30:09그대로 나와 있습니다. 그래서 적용성
30:11명세서에 작성한 대로 어 그대로 이제
30:14구현을 해야 되는데 어 3천일이 다른
30:17표준하고 좀 차이가 있는게 뭐냐하면은
30:20안엑스 부분이 있는데 통제 항목에
30:23대해서는 어떻게 해야 된다라는 이제
30:25요구 사항이 있는 반면에이 통제
30:28항목에 대한 실제 구현을 할 때
30:30어떻게 구현해야 되는지에 대한
30:32가이드가 같이 제공이 되고 있습니다.
30:34그래서 NXB를 같이 보시면은요
30:37이제 요거 통제에 대한 부분들에 대한
30:40구현한 방법에 대한 거 많이 참고를
30:41하실 수가 있고요. 음.
30:44그다음에 인공지능 위험 평가에 대한
30:46부분 그 실행에 대한 요구 사항인데
30:48위험 평가 시기가 좀 정의가 돼
30:51있습니다. 첫 번째는 계획된 간격
30:54주기적으로 수행을 해야 되고요.
30:56그다음에 또 하나 중요한 거는 중요한
30:58변경의 제한이 발생했을 때에 위험
31:01평가를 수행하게 됩니다.이 이 얘기는
31:03뭐냐면은 어
31:061년에 한 번 예를 들어 1년에 한
31:08번 위험 평가를 할 수도 있지만
31:10만약에 중간에 사용하고 계시거나 이제
31:13도입하고 있는 개발하고 있는
31:15인공지능에 기능이나 아마 데이터나
31:18그런 부분에 주 변경이 발생했을 때는
31:21변경이 발생하기 전에 그니까 변경의
31:23제한이 발생했을 때 위험 평가를
31:26수행하도록 어 요구를 하고 있습니다.
31:29당연히 이제 육정에서 이제 나타 그
31:32정의했던 위험 평가 절차를 증수해야
31:34되고요. 위험 평가 결과는 운소화된
31:37상태로 유지가 돼야 됩니다. 그 예를
31:39들면 이제 인공지능 위험 평가 결과
31:41보고서라는 이제 형태로 운송을 지금
31:44만들어질 거고요. 위험 평가가
31:46됐으면은 그다음에는 이제 위험 처리가
31:48되겠죠. 예. 그래서 인공지능 위험
31:50처리 절차에 따라서 어 위험 처리를
31:53진행을 하게 되고요. 위험 처리에
31:55대해서는 효과성을 반드시 검증을 하게
31:57돼 있습니다. 그래서 그 위험 처리
31:59계획이나 위험 처리 결과 보고서의
32:01이런 효과성에 대한 검증 같이 내용을
32:04같이 포함이 돼야 되고요. 위험
32:06처리의 결과도 문서화된 정보를
32:07유지하도록 그렇게 요구를 하고
32:09있습니다.
32:11그다음에 이제 마지 그 인공지능
32:13시스템 영양 평가에 대한 부분인데요.
32:16여향 평가의 시기도 위험 평가와
32:18마찬가지로 계획당 간격으로 이제
32:21실행하는 것도 있지만 인공지능이
32:23중요한 변경이 발생하기 전에 여기서
32:26포인트는 발생 그 인공지능이 변경이
32:29발생한 후에 위험 평가나 영향 평가를
32:31하시는게 아니고요. 가급적이면은
32:33변경이 발생하기 전에 사전에 위험
32:36평가나 영향 평가를 하도록 요구를
32:38하고 있습니다. 그래서 시기에 대한
32:40부분도 아마 심사가 진행이 되면은
32:42예, 주로 이제 심사 포인트로 지금
32:44보게 될 거 같고요. 영양 평가의
32:46결과는 당연히 문서화된 정보로
32:48유지해야 돼서 인공지능 영양 평가
32:50보고서라는 타이틀로 아마 그 산출물이
32:53나올 걸로 어 그렇게 예상을 하고
32:55있습니다. 영향 평가에 대한 요구
32:57사항은 6장과 4장에 있지만
33:00추가적으로 뒷부분에 보면 그 임팩트
33:03어날리 아 그 임팩트 어시스먼트에
33:05대한 통제 항목이 따로 있는데 이건
33:07뒤에서 다시 설명을 해 드리도록
33:09하겠습니다.
33:12앞서 위험 평가에 대해서 말씀드렸는데
33:15막연하실 거예요. 네. 처음에 위험
33:17평가해야 된다라고 하면은 위험
33:19평가해야 되는 건 알겠는데 그래서 뭘
33:21어디를 해야 되냐라고 돼 있는데 31
33:24안 C에 보면은 위험 평가에 대한
33:27위험 출처에 대한 예시를 지금 일곱
33:29개의 위험 출처에 대한 부분을 제시를
33:31하고 있습니다. 그래서 환경의 복잡성
33:34인공지능의 시스템 하나 서비스만 아
33:36그 구축을 하게 될 때 어 데이터의
33:39관리 아니면 모델의 관리 아니 모델과
33:41연관되 있는 시스템의 관리 환경이
33:43복잡한데 그로 인해서 발생할 수 있는
33:45위험들네
33:47그리고 자동화 수준 만약에 요즘에
33:49이제 피지컬 AI가 이제 많이 언급이
33:51되고 있는데 이런 부분들이 이제
33:53자기가 의사 결정을 해서 움직이고
33:56있는데 어느 부분까지 자동화를 해야
33:59되느냐 자동화 수준에 의해서 발생할
34:01수 있는 위험이 있을 거고 그
34:03시스템에 대한 하드웨어 이슈들 그리고
34:05기술 준비 어 인공지능
34:10그 기술이 다른 기술하고 좀 차이가
34:12있는게 어 어떤 수학적인 개념의
34:15알고리즘기 알고리즘이나 이제 통계
34:17그쪽으로 이제 많이 그 기반이 돼
34:20있다 보니까는 기술의 성도나 경험
34:23그런 부분들이 좀 부족할 수가
34:24있습니다. 기술 부채라는 거는 현재
34:26내제화되지 않은 상태에서 어 기술을
34:30외부에 있는 기술을 의존할 때 쓰는
34:31지금 용어긴 한데 이로 인해서 발생할
34:33수 있는 위험들 똑같이 식별을 해야
34:35되고요. 그다음에
34:38사용하고 있는 인공지능이 충분한
34:40설명을 아 충분한 어떤 정보를
34:41제공하지 못해서 발생할 수 있는 위험
34:44그로 인해서 어이 인공진의 의사
34:47결정을 했을 때 어떤 요인을
34:49고려했는지에 대한 부분들이 식별되지
34:51않을 수 있는 어떤 위험들도 같이
34:53확인을 해야 되고요. 그 데이터
34:56품질이나 또 어 데이터 드리프트라는
34:59용어를 아마 지금 인공지능 쪽 그
35:01공부를 하시면은 학습을 하시면은
35:03들으실 텐데 어 기존의 어떤 솔루션나
35:07시스템 솔루션이나 시스템은 정해진
35:10룰에 의해서 실행되는 반면에 인공지능
35:13특히나 이제 머신 러닝 같은 경우에는
35:15입력되는 사용하는 데이터의 품질에
35:17따라서 그 결과물이 좀 달라지고요.
35:20그 지속적으로 학습하 있기 때문에
35:23시간이 흐르면서 결과 그 결과나
35:26결과나 행동의 그 기대치가 달라질
35:29수가 있습니다. 그로 인해서 발생할
35:30수 있는 위험 요인들 그런 부분도
35:33하나의 그 리스크 소스로 제공을 하고
35:34있고요. 수명주이 전반에 걸쳐서
35:37인공지능 시스템을 도입해서 구축하고
35:41운영하고 사용하고 나중에 폐기하는
35:44그런 전반적인 수명 조기가 이제
35:47진행이 될 텐데 그때 적절한 방법론이
35:50적용하지 못함으로 인해서 발생할 수
35:52있는 이런 위험들에 대해서 위험
35:55평가를 해야 된다라고 31에서는 이미
35:58제공을 하고 있습니다. 여기까지
36:00하면은 한스 좀 더 들어가서 아 대략
36:03요런 영역에 대해서 위험 평가를
36:05수행하면 되겠구나라고 이제 이해를
36:07하시면 될 거 같고요.
36:09어 이런 그 방금 말씀드린 리스크
36:13소스에 기반해서 몇 가지 위험 정도를
36:16좀 사례를 제가 뽑아 봤습니다.
36:18그래서 환경의 복작성
36:21쪽에서는
36:25자율주행 AI가 예, 학습하지 못한
36:28기상이나 도로 상황에서 오작동하는
36:29경우요 부분은 아마 예전에 TV에서
36:33테슬라가 어 전복되 있는 트럭을 방
36:37그 충돌하는 그런 사고가 있었습니다.
36:39어떤 환경의 복작성을 이해하지 못해서
36:41AI가 그런 거고 두 번째는 AI
36:43고객 상단 시스템이 어떤 고객이
36:45예상하지 못한 유형에 잘못된 답변을
36:48하는 것도의
36:50그 위험으로 볼 수가 있습니다. 두
36:53번째 투명성이나 설명 가능성
36:54부족으로는 대초 심사를 했을 때
36:57AI가 거절했는데 왜 거절했는지
36:59설명하지 못하게 되면은 고객 불만이
37:01발생할 수 있고 규제나 위반이 발생할
37:04수 있죠. 게다가 채용 과정에서
37:06AI를 적용했을 때 평가 기준이
37:08명확하지 않아서 차별에 대한 의용이
37:10발생할 수 있는 것도 하나의 위험이
37:11될 수 있고요. [콧방귀] 완전 자동
37:13거래 뭐 주식 거래 같은 예를 들
37:15수가 있는데 시장의 어떤 상황에 어
37:18그대 그 대응을 하면서 오주문이
37:21발생할 수 있는 위험들 예 그런
37:23부분도 아마 예상할 수 있는 예
37:25하나의 위험이 되고요. 공장 자동화에
37:28이제 AI를 도입을 했는데 품질
37:30판정을 그 잘못해서 대량의 분량품이
37:33생산 생산되는 것도 어 이것도 하나의
37:36지금 그 위험으로 볼 수가 있습니다.
37:38그 외에는 이제 기계 학습과
37:39관련돼서는 학습 데이터가 평향으로
37:42그대 바이어스 예 학습 데이터 편향이
37:45발생해서 성별이나 연령 지역에 대한
37:48어떤 특정 지역에 대해서 일방적으로
37:50불리하게 결과를 생성할 수 있고요.
37:52데이터가 오염돼서 데이터 포지는
37:54데이터가 오염돼 오염된 상태에서
37:57모델의 성능이 저화되거나 어 판단이
38:00이제 오류가 발생하는 그런 것도
38:02하나의 위험으로 어 제시를 할 수가
38:04있습니다. 예
38:07시스템 하디어인데요. 요거는 아마
38:08다른 회사들은 많이 해당상이 없을 것
38:10같은데 어 학습을 하게 되면
38:14GPU를 많이 사용하시잖아요. 그때
38:16이제 GPU 메모리 오류로 어떤
38:18오작동으로 인해서 결과가 왜곡할 수
38:20있고요. 대량의 데이터가 이제 통로로
38:24사용되는 네트워크 같은 경우 지안이
38:26발생했을 때 예 AI가 그 응답에
38:29실패하는 것도 하나의 기술적인 그
38:31위험으로 발생을 할 수가 있습니다.
38:33그 수명 주기에 관련된 거는 모델이
38:36가장 학습을 하면서 이제 업데이트가
38:38되는데 학습 업데이트하는 과정에서
38:40검증하는 어떤 절차가 부족해서 이전
38:43버전보다도 정확도가 좀 떨어진다거나
38:45그런 것도 하나의 위협을 될 수
38:47있었고 개발 목적과 다른 환경에서
38:49AI가 사용되면서 어 잘못된 어떤
38:52판단이나 결과를
38:54출력할 수 있는 것도 판단의 위험으로
38:56판단을 할 수가 있습니다. 그리고
38:59기술 성숙도인데요. 이제 어 다른
39:02회사에서 지금 겪고 있는 걸 제가
39:04하나 확인한게 있는데 검증되지 않은
39:06LM 기술 같은 경우를 이제 업무
39:08프로세스에 도입해 가지고
39:10할루시네이션이라고 하죠. 잊지도 않은
39:12어떤 현상이나 답변을 어 답변을 하는
39:15것들 예. 그런 것들이 증가할 수
39:17있는 거고. 아, 요즘에 AI에 대한
39:19기술 변호석도 엄청 빠릅니다. 오늘도
39:21아마 새로운 주술 한 두 개 정도가
39:23지금 뜬 거 같은데 이런 것들을
39:25충분히 따라가지 못해서 기존 AI
39:27모델이 노후화 돼서 어, 어떤 성능이
39:29저화되는 것도 하나의 위험으로 어,
39:32그 제시할 수가 있습니다. 여기서
39:34말씀드린 위험은 하나의 그 예시일
39:36뿐인 거고요. 요런 것들은음 리스크
39:39소스나 어 고려했을 때 요런 요런
39:41위험들이 하나 예시로 해서 어 AI를
39:45도입하시거나 아니면 지금 참여하신 분
39:47중에서 컨설턴트 분들도 꽤 계신 거
39:49같은데 위험을 도출하실 때 좀 참고가
39:51되면은 좋을 듯해서 제가 시나리오로
39:53좀 뽑아 봤습니다.
39:55네. 그다음 이제 리스크를 식절을
39:58했으면 리스크 소스에 기반해서 위험
40:01시나리오를 선정을 했고 그 식된
40:03위험을 처리를 해야 되는데 이때도
40:06처리할 수 있는 그런 이제 선택이
40:09일곱 가지가 있습니다. 어보이드
40:11리스크 위험을 회피하는 거죠. 예.
40:14아예 그 위험이 발생할 수 있는
40:15활동을 시작하지 않거나 그냥 제거해
40:17버리는 거 그런게 하나가 있고 위험과
40:20기회라는 말은 항상 ISO에서 같이
40:23언급이 되고 있습니다. 그래서 어떤
40:25위험이 있지만 어떤 기 더 좋은
40:28기회를 추구하기 위해서이 위험을
40:30감수하거나 아니면 이제 증가시키는
40:32확대시키는 그런 것도 하나의 선택이
40:34있고요. 위험의 원인 자체를 예,
40:36제거하는 것도 하나의 옵션이고 발생
40:39가능성을 맞추거나네
40:41번째 발생 가능성 맞추거나 아니면
40:44영향의 결과나 크기 그런 걸 변경하는
40:47것도 하나의 처리가 되고요. 그다음에
40:49쉐어리스크 요건 이제 계약 보험등을
40:51통해서 위험을 공유한다고 돼 있는데
40:54위험
40:55쪽에 어 좀 스타트 해 보신 분들은요
40:59지금 쉐어리스크가 예전에는 트랜스포
41:01리스크라고 표현이 돼 있거든요.데
41:03실제로는 쉐어 리스크로 용어가 변경이
41:05됐습니다. 예. 여기서 이제 제가
41:08적제를 알았는데 계약이나 보험을
41:10통해서 위험을 공유를 하는 거지
41:12완전히 주체한테서 위험이 없어지는게
41:15아니기 때문에 쉐어리스크란 표현으로
41:17어 수정이 됐습니다. 요거는
41:18참고적으로 말씀을 드리고요.
41:21어 마지막으로는 이제 위험을 그대로
41:23유지하는 건데 의사 결정상으로 위험을
41:25그대로 보유하는 걸 얘기를 합니다.
41:27그래서 앞서 리스크 소스에서 위험을
41:31식결을 하고 요거를 처리할 때 이런
41:34일곱 가지 옵션 중에서 어떤 거
41:35선택할 건지에 대해서 결정하는 예,
41:38그런 옵션이 일곱 가지가 있다. 예,
41:40그렇게 지금 말씀을 드리고요. 음,
41:43요것도 한번 예를 들면은 위험 회피
41:45쪽을 예를 들다면은 어, 규제나
41:48윤리상 수용하기 어려운 경우에는
41:50출시를 보류하거나 폐기하는 경우도
41:52있죠. 기능을 탑재하지 않는다거나
41:54그런게 이제 위험피하는 방법이
41:57방법이고요. 위험 수용이나 증가 이런
42:00건 이제 관리 가능한 자녀 위험을
42:02안정적 인정하고 어 고효율 자동화
42:05기능을 도입하는 거 요런 부분이
42:06하나의 어 위험 수영이나 증가에 대한
42:10사례가 될 수 있습니다. 그리고 위험
42:12소스의 제거는 편한 가능성의 큰
42:15데이터 필드나 아니면 불필요한 자동사
42:17결정은 요소는 아예 제거하는 거 이런
42:19거는 위험 소스를 사전에 제거하는
42:20거고요. 그다음에 발생 가능성의
42:23변경, 데이터 품질을 검증한다는가
42:25모등의 성능을 모니터링하면서 이런
42:27발생 가능성을 점점점 낮추는 거
42:30아니면은 그 전체적인 라이프
42:33사이클에서 아 그 인공지능 시스템이
42:35동작하는 그 사이에 사람이 개입을
42:37해서 그 발생 가능성을 검증 사람이
42:41한 번 더 검증하는 그런 방법도 있을
42:43수가 있고요. 다섯 번째로는 결
42:46영향이나 결과의 변경인데 파일럿이나
42:48단계적인 배포를 통해서 한꺼번에
42:50적용하는 거보다 부분적으로 뭐 배포를
42:53하면서 어떤 문제가 있는지
42:54확인하고이를 수정하면서 배포하는 그런
42:57쪽이 있고요. 그다음에 피해 완화
42:59절차 이의기나 정정이나 보상을 통해서
43:02결과의 그 크기를 줄이는 그런 방법도
43:05하나의 그 테트먼트 옵션이 옵션의
43:07예로 어 말씀드릴 수가 있겠습니다.
43:10그다음에 위험 공유. 예. 계약이나
43:12보험 등을 통해서 3자와 공유하는데
43:15앞서 말씀드린처럼 위험 공유는 예
43:17조직의 책임 자체가 모두 제거하진
43:19않습니다. 일본은 남아 있죠.
43:21해지한다고 보통 이제 표현을 좀 많이
43:23한하죠. 하죠. 예. 위험
43:25유지입니다. 충분한 정보를 파악해서
43:27결정적으로 아 위험을 계속 안고
43:29가겠다라는 거고 이때 청구해야 되는
43:32상은 자녀 위험이 허용 기준 내인지
43:35앞서 6장에서 얘기했던 위험 내 어떤
43:38기준 위험 평가는 기준에서 허용 기준
43:40내인지 확인한 다음에 이거를 계속
43:42수용해서 가져가는 그런 옵션이
43:44있습니다. 예.
43:46위험에 대해서 처음에 위험 평가
43:50그다음 위험 처리에 대한 부분들
43:52말씀을 드렸고요.
43:54위험 처리에 대한 내용은 앞서
43:56말씀드렸을 때 이제 적용성 명세에서
43:59스테이트먼트 오브 어플리커빌리티라는
44:01이제 문서를 작성을 해야 되는데 통제
44:04항목이 열 개의 영역에 걸쳐서
44:08열 개 영역에 걸쳐서 38개의 통제
44:10항목이 있습니다. 그 개형은 인공지능
44:12정책, 인공지능 그 운영하는 내부
44:15조직, 시스템 자원, 영향 평가,
44:18개발 관리, 수명 주기, 시스템
44:21데이터에 관한 통제, 이해 관계자를
44:23위한 요구 사항, 사용, 서드 파트
44:26및 고객 관계를 어떻게 유 그 유지를
44:28해야 되는지에 대한 요런 열 가지
44:31영역에 대해서 36개 통제 항목이
44:33있고요.이 이 부분은 어
44:353,000일뒤 아안넥e스 A를 보시면
44:39자세하게 볼 수 있고 이에 대한
44:41구현에 대한 부분은 안엑 B에서
44:43상세하게 제공을 하고 있습니다.
44:45여기서요 통장목까지 사세하게
44:46설명드리지 않겠습니다. 예.
44:51그다음에 이제 임팩트 어세스먼트에
44:53대한 지금 부분인데요. 영양 평가는
44:556장에서 먼저 있다고 말씀드렸죠.
44:57영역 평가 그러면서 통 뒤에 통지
44:59항목이 좀 더 상세한 영향 평가에
45:02대한네 그 요구 사항이 있는데요.
45:05인공지능 시스템 영양 평가는 인공지능
45:07수명주기 전반에 걸쳐서 수행을 하게
45:09돼 있습니다. 그리고 대상은 앞서
45:11말씀드린 것처럼 개인이나 그룹 사회에
45:15미치는 영향을 평가를 하고요. 영향
45:17평가 그 첫 번째 그네 가지의 세부
45:20그 통장모로 나눠져 있는데 첫 번째는
45:23영역 평가 절차를 수립을 해야
45:24됩니다. 문소화된 그 형태로 해서
45:27그리고 영양 평가 결과는 당연히
45:29운서해야 되고요. 그다음에 유지하도록
45:31돼 있습니다. 그래서 보통 3년
45:33아니면 5년 동안 유지를 해야 된다는
45:36제 기억이 좀 정확하진 않은데
45:38우리나라 법률상에서도 위험 평가에
45:40대한 결과를 고위험 그 인공지능에
45:43대한 위험 평가에 대한 결과를 몇 년
45:45동안 유지하도록 명시한 걸로 제가
45:46알고 있습니다. 네.
45:48첫 번째는 개인과 개인 그룹에 대한
45:50영향 평가를 수행해야 되고요.
45:52마지막으로 사회적 영향 평가를 수행을
45:54해야 됩니다. 좀 더 자세하게 지금
45:57보면은음
46:00영양핑기 영역 평가의시기 같은
46:02경우에는 어 인공지능의 어떤 목적이
46:06변경되거나 어떤 환경이 변경되거나
46:09자동화 수준이나 데이터가 변경됐을 때
46:11변경하기 전에 수행돼야 됩니다. 예.
46:14반드시 그 알고 계셔야 되고요.
46:16전체적인 그 절차는 예, 먼저 영향에
46:20대해서 식별하고 분석하고 평가하는
46:23그다음에 처리하는 이거는 앞서
46:25설명드린 위험 평가의 절차와
46:27유사합니다. 처음에 영향을 식별하고
46:30이거에 대해서 점 그 위험의 그
46:32영향의 정도를 평가를 하고 어떤
46:36부분들을 처리할 건지에 대한 평 그
46:39이밸루에이션하는 그런 절차로 돼
46:41있고요. 그게 결정됐으면 그 영향
46:44위험에 대해서 처리를 하고 그다음에
46:45문소하고 의사 소통하는 이런 과정으로
46:48어 나와 있습니다. 이제 못 하고
46:50있네요. 예.
46:51>> [콧방귀]
46:51>> 영향 평가 결과는 이제 문서가 돼야
46:53되고요.요 문서 포함돼야 되는 내용은
46:56뒤에 다시 설명을 드리도록
46:57하겠습니다.
46:59그리고 5.4하고 5.6에서는
47:01개인이나 개인 그룹에 대한 영향 평가
47:03사회적 영역 평가로 돼 있는데 어떤
47:06부분에 대해서 영역 평가를 해야
47:07되는지는 3천일에서 제공을 하고
47:09있습니다. 공정성, 책임성, 투명성과
47:12설명성, 보안, 안정과 건강, 재정적
47:16결과, 접근성, 인권. 그리고 사회적
47:19여향 평가는 환경, 경제, 정부,
47:22정치나 형사법 예, 사법 체계
47:24건강이나 안전, 규범, 전통, 문화
47:27및 가치 요분에서 영역 평가를 하고
47:29있는데 반드시이 영역에 대해서
47:32국한에서 영 평가를 하는 건 아니면
47:34여기에 국한되지 않으면 여기에
47:35추가적으로 더 영향 평가를 수행을 할
47:37수가 있습니다.
47:42어쨌든 그
47:44앞서 위험 인공지능 위험 평가에
47:47대해서는 별도의
47:50ISO 표준으로 가이드를 하고 있는데
47:52영양 평가도 마찬가지로
47:543,000 로에서 어 임팩 영양
47:57평가를 할 수 있는 가이드를 제공을
47:58하고 있습니다.요 요 이제 4,5에
48:01이제 5장을 보면은 전체적인 영의
48:03절차에 대해서 제시를 하고 있는데 첫
48:05번째는 영역 평가의 절차를 문소하고
48:08기존의 관리 체계 정보 보안 아니면
48:10품질 안전 환경 요런 쪽에 통합해서
48:12연기할 수 있는지를 먼저 검토를
48:14하고요. 영향 평가를 언제 할
48:16것인가에 대한 시점을 정리하고
48:18그다음에 영향 평가의 범위를 정리를
48:20합니다. 그다음에 영향 평가를 할 때
48:22누가 어떤 부분에 대해서 영향 평가를
48:24할 건지에 대한 역할을 정 역할과
48:26책임을 정하고요. 어, 무조건 다
48:29영향 평가를 한다기보다는 민감도나
48:32어, 민감도나 어떤 임계값을 정의해서
48:35여향 평가에 대한 그 수행 여부 그
48:38어느 정도까지여 평가를 한하는지에
48:40대한 부분을 정의 정의를 하게
48:42됩니다. 여기까지가 정의 됐으면은
48:45영향 평가를 수행을 하고요. 결과를
48:47분석해서 기록을 기록을 하고 문소하고
48:51보고를 한 다음에 완화 조치까지 한
48:54다음에 그 이후에 완화 조치에 대한
48:56모니 그 완화 조치가 유효하게 동작을
48:58하고 있는지 예 모니터링이나 검토를
49:01하는 것까지가 425에서 제시하고
49:04있는 전체적인 절차가 되겠습니다.
49:10그다음에 3회 이제 6장에서는 어떤
49:12정보들이 문소화 돼야 되는지에 대한
49:15부분 제시하고 있는데이 여덟 가지가
49:17있습니다. 인공지능의 영향 평가의
49:18범위 정 어 그 인공지능 시스템의
49:21정보 인공지능이 사용하고 있는
49:23데이터의 정의 종류와 품질 그다음에
49:27알고리즘이나 모델의 정보 어떤
49:30환경에서 배포가 되는지 이해 관계자는
49:32누가 누가 있는지 그리고 실제 예측
49:35가능한 영향이 무엇이 있는지 그리고
49:38편익이 있는 경우 어떻게 대응해야
49:41되는지 요런 부분들이 이제 문서화로
49:43지금 포함이 돼야 되는 부분인데
49:47어 앞서 말씀드릴 때 영양 평가의
49:50대상이 개인이나 개인 집단이 있고
49:53사회적인 영향 평가를 수행해야 된다고
49:54돼 있습니다. 그러면서 하나 여섯 개
49:57정도의 어떤 주제에 대해서 영향
49:59평가를 해야 된다고 돼 있는데요
50:01예시를 한번 보면은 공정성에 대해서
50:03영향 평가를 해야 됩니다. 그럼 특정
50:05연령이나 성별, 지역 거주대에 대해서
50:08혹시 불합리한 결과를 제공하지 않는지
50:11채용 대출 보험 심사에서 특정 집단에
50:14대해서 차별적인 어떤 결과가 발생하지
50:16않는지에 대해서 평가하는게 하나의
50:18지금 예가 되고요. 책임성에 대해서는
50:20AI가 잘못된 의사 결정이 있었을
50:23때이 피해에 대해서 어느 누구한테
50:26책임 있는지에 대한 부분들 이런
50:28부분도 평가의 대상입니다. 이재기
50:31설명이나 요청 또 제공하고 그 구제
50:34절차가 부제한 것도 어 하나의 그
50:36영향 평가의 대상으로 될 수가
50:38있고요. 그 투명성이나 설명 가능성
50:40사용자가
50:42A 인공진의 결과가 이렇게 도출된
50:44이유를 이해하지 못하는 경우 어 그런
50:46것도 하나의 영향 평가가 될 수
50:47있고요. 의사 결정 근거가 부족해서
50:50어 결과가 신뢰할 수 없는 경우 그런
50:52부분도
50:53영역 평가의 예시로 들 수가
50:55있습니다. 그다음에 그 보안이나
50:57프라이버시 우리나라에서 특히나 이제
50:59예민한 주제인데 개인 정보의 유출이나
51:01아니면 개인 정보 동의의 범위를
51:03벗어내서 활용되지 않는지 그리고 어떤
51:07기술적으로 어 알고리즘이나 모델을
51:09공격하고 어떤 프롬프트 인젝션 공격을
51:11통해서 어 모델의 어떤 그 인공지능의
51:14어떤 오류
51:16값을 어 유도하는 그런 공격이 있는지
51:19없는지 그런 부분도 영향 평가인
51:21대상이고요. 안정과 건강 쪽에 대한
51:24영향 평가는 어 의료 쪽에서 어
51:26특히나 이제 잘못된 의료 안전 관련된
51:29권고로 인해서 뭐 신체적인 피해가
51:31발생하하는 것도 하나의 염 대상이고
51:34로봇이나 자율주행 또 산업제화회에
51:37오장 오동작을 했을 때 안전상 발생할
51:40수 있는지 그것도 영향 평가의 한
51:42범위로 어 예시로 둘 수가 있습니다.
51:45재정적인 결과, 접근성, 인권 요런
51:48부분은 어떤 잘못된 그 신용 평가
51:51때문에 대출이 거제되는 거 앞서도
51:52말씀드렸죠. 예. 그리고 투자,
51:54보험, 군용상품 추천 오류에서 어
51:57재정적인 발 그 손실이 발생할
52:00발생하지 않는지 요런 것도 영역
52:02평가의 대상이고요. 접근성 장애인
52:04또는 고령자가 인공지능 기반의
52:06서비스가 서비스를 이용하는 대로 좀
52:08제약이 있지 않는지 아니면 언어나
52:11문화 디지털 어떤 영량 차이로
52:13서비스에 대한 접근에 또 차이가
52:15있는지 그런 부분도 살펴봐야 되는
52:17부분이고요. 특히나 표현의 자유, 어
52:20차별 금지, 인간의 존놈성, 훼손,
52:23부당한 어떤 의사 결정이 발생했는지
52:25이런 인권에 대한 부분도 영향 평가의
52:27한 대상입니다. 그 어 그리고
52:30마지막으로 이제 사회적인 영향 평가도
52:32이제 말씀을 드릴 텐데이
52:35부분은 이제 그 환경적인 부분에 대한
52:38영향 평가는 초고대 AI 모델 요즘에
52:42국가에서 뭐 어떤 큰 프로젝트를
52:44계약을 했는데 그때 전기가 항상 그
52:48이슈가 되고 있었죠. 전기에 대한
52:49문제를 전력을 어떻게 그 끌어올지
52:52예을 때 전력의 사용량 그로 인해서
52:54온실가스 배출이 증가하지 않는지 예
52:57그런 부분들 그리고 데이터 센터
53:00냉각에 대한 어떤 무에 대한 사용량
53:03요런 부분도 환경에 대한 부분으로 그
53:06영향을 한번 고려를 해 봐야 되고요.
53:08AI 자동화가 특정 직무를 감소하거나
53:10직무 전환에 필요한 그 노동에 관한
53:12부분이죠. 예. 그리고 신규 직무
53:15생산성 향상 또 산업력 경쟁력 강화
53:18이런 부분 경제적인 영향이 있는지
53:20펴봐야 되고요. 정부 쪽에서는 정치적
53:23이익을 위한 오정보산으로 신뢰요 가짜
53:26뉴스나 페이크 뒷페이크 요런 부분들을
53:29얘기를 지금 하고 있고요. 공공
53:31서비스가 자동화됐을 때 행정 효율성이
53:33향상되거나 아니면 오히려 반대로
53:36취약계층이 접근성에 저화되는 이런
53:38영향이 있는지도 이제 살펴봐야
53:40됩니다. 그 안전이나 건강, 건강이나
53:43안전 쪽에서 의료하의로
53:46일한 조기 진단, 의료 서비스 접근성
53:48향상 및 치료 의사 결정 지원 요런
53:50부분은 이제 긍정적인 영향으로 볼 수
53:52있고요.데 중요한 영향에서 영역에서
53:55인간 감독이 부족해서 피해가 확대되는
53:57부정적인 영향으로 볼 수 있죠.
53:59그리고 규범, 전통 문화 가치. 특정
54:03그 AI가 생성한 콘텐츠가 문화나
54:06종교, 사회적 집단에 대한 어떤
54:07편견을 강화할 수도 있는 영향이 있는
54:09거기 부정적인 영향이죠. 그리고 추천
54:12알고리즘이 사회적 가치가 아니라 여론
54:14형성, 창작 활동 인식에 영향을
54:16미치지 않는지 요런 부분도 하나의 어
54:19영향으로 평가가 될 수 있습니다.
54:22네.
54:24[콧방귀] 속도가 좀 빨랐습니다.
54:25예. 그래서 마지막 서머리를 해 보면
54:27몇 가지 키워드를 좀 기억을 해
54:29주셨으면 하는 건데
54:33[목을 가다듬음]
54:34처음에 예 신뢰할 수 있는
54:36인공지능이라는
54:38거를 처음에 용어를 정의를 해
54:40드렸습니다. 그래서 어
54:43AI 관계된 이해 관계자의 기대를
54:45충족시킬 수 있는 능력이나 아니면
54:47특성 그거를 이제 신뢰할 수 있는
54:50인공지능이라고 정의를 했고요. 그런지
54:53책임 있는 인공지능이라는 거는 이런
54:55신뢰할 수 있는 인공지능을 구현하기
54:58위한 어 접근법이나 관리 원칙 이걸
55:00이제 리스 AI라고 설명을
55:02드렸습니다. 그리고 리스 AI의 한
55:05예로 IS 42,0001 예 위험
55:08관리에 기반해서 인증 가능한 어
55:10인공지능 관리 책이라고 지금 설명을
55:12드렸고요. 그다음에 3 2001에서
55:15위험 관리에 대한 부분은 위험 평가와
55:18영향 평가 크게 두 가지 요소로
55:20구성이 되고 있고 인공과여
55:23그 리스크 어 세스먼트 같은 경우에는
55:27어 리스크 식변 분석 평가 리스크를
55:31찾아내고 점수를 먹기고 처리에 대한
55:33우선 순위를 정하는요 세 단계로 크게
55:35진행이 되고요. 어, 이런 평가
55:38리스크 어세스먼트의 결과로 어,
55:41식별된 어떤 위험들 그거는 리스크
55:44처리, 위험 처리 옵션 일곱 가지가
55:46있었죠. 위험 처리 옵션을 선택하고
55:48그 내용은 적용성 명세서를 통해서
55:51어떻게 통제를 하고 있는지를 작성을
55:52하게 됩니다. 네. 그리고 마지막으로
55:55어 영양 평가는 개인이나 개인 그룹
55:58사회적 영향 평가 요쪽 분야에 대해서
56:01평가를 수행을 하고요. 긍정적인면
56:03부정적인면 부정적이면 모두 포함이
56:06됩니다. 그리고 영양 평가 결과
56:08도출된 영향은 리스크 어세스먼트와
56:11연결해서 그 처리를 한다. 여기까지
56:13해서 정리를 해 드릴 수가 있습니다.
56:16예.
56:18네. 대략 한 한시간이 좀 안 되는
56:20부분 예. 저희가 설명을 드렸고요.
56:24질문을
56:26세어요. 네. 음.
56:28>> 네. 안녕하세요. PCB 한국담당
56:30김소정입니다. 참석자 여러분들께서
56:33질문들을 보내 주셨는데 제가 시간
56:36관계상 몇 가지만 대신해서
56:37질문드리겠습니다.
56:39첫 번째 질문은요. 최근 직원들이
56:42리티나 코파일럿 같은 생성형 AI
56:45도구를 점점 더 많이 사용하고
56:47있습니다.
56:55어, 외부에 이제 노출하는 거에
56:57대해서 많이 이제 그 우려를 하시는데
57:01어, 이럴 때 보면 이제 그 항상
57:04보면은 기업이 통제를 하긴 하지만
57:07항상 예외는 발생하게 돼 있습니다.
57:09예. 전체적으로 통제를 하지만 어
57:12이런 이런 사유로 인해서 그 우리는
57:15AI를 어떤 AI를 써야 된다.
57:17그렇게 요청하는 예외가 항상 발생하게
57:19되는데 제가 볼 때는 그런 사각
57:21지재를 없애려면은 예외 처리에 대한
57:23부분에 대해서 꼼꼼하게 지금 절차를
57:26마련하시고 그거를 실제 잘 이행하고
57:28통지하시는게 그 상각지대를 예방하는
57:31방법이 아닐까 그렇게 생각이 듭니다.
57:44네. AI 거버넌스 체계가 현재 AI
57:46기술을 쫓아가고 있느냐? 예. 그
57:49충분히 따도 아니라고 보고 있습니다.
57:51워낙에 빨리 발전을 하고 있고 용어나
57:54어떤 새로운 기술들 적용 범위들 그런
57:57부분들이 워낙에 빨리 변하고 있기
57:59때문에 좀 한 발짝 정도 늦고 있는
58:02거는 사실인 거 같아요. 예.

About this transcript

This page contains the full transcript of 국내 AI 기본법 시대, ISO/IEC 42001 기반 AI 위험관리 및 인증 대응 전략 by PECB, generated from the public captions YouTube serves with the video. The transcript has 6,943 words across 1,415 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.