"기업들, AI 활용하려면 AI 윤리 기준부터 마련해야"

[AI 2023] 김우성 딜로이트 전무 \

 

<주인장 백>

본문 중에서 핵심 내용 발췌 :

* 챗GPT 플러그인은 외부 정보 데이터를 챗GPT에 외부 데이터 앱을 연결해 사용하는 형태이고, API는 사용자(기업, 개인 등)의 자체 앱에 챗GPT API를 연결시켜 사용하는 방식이다.
기업에서는 데이터 보안 때문에라도 챗GPT API를 자사의 시스템으로 가져와 사용할 것이다. 그렇게 되면 결국 어떤 데이터를 보유하고 있고, 어떤 결과값을 얻을 수 있는지가 핵심이 된다. 만약 데이터 품질이 좋다고 한다면 프롬프트 엔지니어링의 수준에 따라 도출해내는 결과값 수준이 달라질 것이다.

- 중략 -

“최근에 ISO에서 AI 윤리에 대한 표준화 체계(ISO/IEC 42001, 인공지능경영시스템) 를 수립했고 정식 인증이 나오게 됐다. 어떻게 AI를 사용해야 하고, 어떤 부분을 거버넌스 카테고리로 넣어야 하는지 등의 기준을 만드는 데 꽤 많은 시간이 들은 것 같다. 이 기준에는 세부적으로(AI의 신뢰성과 윤리성, 공정성, 투명성에 대한 분류, 개인정보보호 등) 항목이 많다. 이제 기업들은 ISO가 정한 기준 아래 자체적으로 AI를 구축하고 운영할 수 있는 것이다.
개인적으로는 이 ISO 인증에 대한 접근법이 신중해야 한다고 생각한다. 기업 입장에서는 ISO 인증을 받았다고 해서 ‘이제 자유롭게 AI를 활용할 수 있다’는 의미로 받아들인다기보다는 사명감을 가지고 올바른 AI가 유지되기 위해 함께 노력해야 한다는 의미로 이해하는 게 맞을 것이다.