[도서협찬] 신뢰할 수 있는 인공지능

 

<신뢰할 수 있는 인공지능> 한상기, 클라우드나인


인공지능 기술이 많이 관심을 받으며 인공지능이 가지는 새로운 지능의 대체에 대해 많은 연구와 우려들이 혼재해있다.

과연 현재의 인공지능 기술을 지능이라고 말할 수 있는지는 아직 미지수지만 인공지능이 가지는 지향점과 현재 연구된 기술에 대해 인간 사회 속에서 사용되어질 때 우리가 인식해야 할 내용이 무엇인지 어떠한 기술로 발전해야 신뢰 가능한 기술이 될 것인지에 대한 고민들을 모아 정리한 책이다.

왜 인공지능의 신뢰성이 중요한지부터 설명하면서 현재 인공지능 기술의 신뢰성에 대한 이슈를 공정성, 윤리성, 투명성과 설명가능성, 견고성과 안전성의 네가지 이슈로 정리해서 각각의 이슈들이 가지는 문제점이 무엇이고 실제로 어떤 사례를 만들었는지 알려주고 그것을 해결하기 위한 학계나 산업계의 노력은 무엇이고 어떤 효과를 내고 있는지 현재 시점에서 알려주고 있다.

이 책에서 알려주는 사례들은 사실 좀 섬짓하다. 자율주행 차량의 교통사고 정도는 익히 들어 알고 있었지만 요즘 공항이나 사람이 많은 공간에서 안내용 로봇이 많이 돌아다니는데 작은 아이를 인식하는 것을 실패하여 아이를 덮친 사례에선 이 기술의 문제점을 잘안다고 생각했던 나도 방심했던 영역이었구나 싶은 생각이 들었다.

사실 로봇이나 자율주행차에 대한 문제는 생명과 직결되긴하지만 현재 발생하는 수많은 교통사고처럼 기술에 의한 사고의 한 유형이라 말할 수 있지만 현재 인공지능 기술을 이용해 딥페이크와 같은 가짜 동영상을 만들어 유포하거나 취업이나 인간에 대한 분석에서 편견을 고착화하는 문제들은 사회적인 심각성이 깊이 내포된 문제라서 인공지능 기술의 윤리성을 어떻게 가져가야 할 것인지 인문학적 고민이 필요한 영역이다.

현재의 인공지능 기술은 통계적인 기법을 기반으로 하여 데이터의 편향성을 파악하는 것이다. 그것이 크게 분류와 인식이라는 측면으로 나뉘지만 결국 데이터의 편향성이 어떻게 나뉘는지 파악하는 것이 인공지능 기술이다보니 잘못이해하고 사용하게 되면 기존의 성차별이나 인종차별과 같은 문제를 고착화하는 패턴을 만들어낼 수 밖에 없다.

인간은 스스로 인식의 차이나 한계를 극복할 힘을 가진 지능화된 동물이다. 인공지능에서 지능이라는 단어가 가지는 함정은 바로 이부분일 것 같다. 인공지능은 아직 자기 스스로의 인식에 대한 한계를 극복할 힘을 가지지 못한다.

전반적으로 현재 인공지능 기술이 가지는 문제적 이슈를 잘 정리해서 보여주고 있으면서 견고성과 안전성의 문제에서도 보안적인 이슈가 새로운 부분에서 많이 대두되고 있다는 사실도 알 수 있었고 지금 진행하는 과제에서 풀어야 할 숙제를 해결할 힌트를 얻을 수 있어 더욱 만족스러운 책이었다.