모든 예의 공통점은 ‘인공지능’은 오류를 저지르지 않았다는 것이다. 인공지능은 의식이 없다. 인공지능은 자신의 목표를 정하고 그에 따라 행동하지 않는다. 그럼에도 인공지능을 활용하는 것은 세상을 변화시킨다. 대신에 오류를 만들어낸 것은 인공지능 시스템을 개발하고 활용하는 가운데 사람들이 내린 여러 결정들이었다. 특정 문제의 해결을 위해 데이터와 방법을 결합시키는 모델링 과정에서 일어난 의식적 혹은 무의식적 실수들, 인공지능 시스템의 부적절한 활용, 혹은 결과의 잘못된 해석이 오류를 빚는다. (p.167)
기계의 결정이 의사결정의 오류를 빚을지라도, 그 책임은 언제나 언어행위의 일부를 기계에 위임하기로 결정한 인간에게 있다. (p. 288)
궁극적으로 인공지능 시스템이 제공하는 커다란 기회를 활용하는 동시에 인공지능 시스템을 유해하게 사용하는 일이 없도록, 인공지능 시스템과 관련해 균형 잡힌 규제를 시행해야 한다. (p.298)
인공지능은 이제 인간을 돕는 도구를 넘어, 인간을 대신해 결정을 내리는 존재가 되었다. 취업과 대출, 사법 판단과 치안 등 삶의 중요한 영역에서 AI의 판단은 점점 더 큰 영향력을 행사하고 있다. 이 책은 무고한 체포와 오판 같은 사례들을 통해, 문제의 원인이 과연 AI 자체에 있는지 근본적인 질문을 던진다. 사회정보과학 연구자인 저자는 인공지능의 오류가 기술 자체가 아니라 이를 설계하고 활용하는 과정에서 인간이 내린 결정에서 비롯된다고 설명한다. 기계의 판단으로 문제가 발생하더라도 책임은 판단을 위임한 인간에게 있으며, 인간만이 수행할 수 있는 평가와 피드백의 역할이 여전히 중요하다고 강조한다. 『무책임한 AI』는 AI를 거부하자고 말하지 않는다. 대신 AI가 제공하는 기회를 활용하되, 해로운 사용을 막기 위한 균형 잡힌 규제와 인간의 책임 있는 개입이 필요하다고 말한다. AI시대에 인간의 책임과 판단이 어떤 의미를 갖는지 조용히 되묻는 책이다.
1부 기계는 어떻게 결정을 내리는가 2장 알고리즘의 성차별 3장 정보과학의 작은 ABC 4장 기계는 신용도를 평가하는 법을 어떻게 배울까? 알고리즘, 휴리스틱, 그리고 모델 5장 1부 요약
2부 인공지능이 만들어낸 문제들 6장 얼굴을 인식할 수 없습니다 7장 억울하게 체포된 남자 8장 왜 나는 집을 찾을 수 없을까? 9장 내 돈은 어디 갔지? 10장 인스타그램에서 우울증을 감지하는 법 11장 챗지피티는 왜 나를 히틀러의 오른팔로 만들까? 12장 일레인 허츠버그는 왜 죽어야 했을까? 13장 2부 요약
3부 왜 이렇게 되었는지 알아야 할 때 14장 검증 가능한 결정과 검증 불가능한 결정 15장 언어행위는 언제 성공하는가? 16장 컴퓨터가 내 글에 점수를 매길 수 있을까? 17장 계정이 갑자기 정지된 이유 18장 내가 테러리스트라고? 19장 인공지능과 ‘일반적인 절차’의 학습 20장 가치판단이 자동화될 수 있을까? 21장 3부 요약
4부 우리는 앞으로 어떻게 결정을 내릴 것인가? 22장 자동화된 의사결정 시스템을 활용하면 어떤 점이 더 나을까? 23장 나의 알고리즘을 언제 사용할 수 있을까? 24장 영리한 한스, 어떻게 그렇게 할 수 있니? 25장 이의 제기는 가치가 있다 26장 4부 요약