유학과 디지털 인문융합: 인공지능시대

인공지능시대에 유학은 무엇을 할 수 있을까?: 브레인스토밍

 ☞ 최첨단을 달리는 오늘날, 왜 유학을 공부하시나요??

 ☞ 최첨단 인공지능시대, 유학은 최첨단에서 더욱 멀어지고 있는 걸까요?

 ☞ ※ 유의사항: 이 수업은 유학으로 미래의 모든 문제를 해결하고자 하는 것이 아니라 미래사회 문제를 통해 유학을 자유롭게 상상해보고 확대해 보는 데 있습니다. 그리고 이러한 현대적 적용 문제는 전통적인 유학 연구에 대한 철저한 이해에서 시작합니다.

세계적인 인공지능 선도 기업, 핸슨 로보틱스(Hanson Robotics)의 로고는 주역이다

☞ 핸슨 로보틱스 사이트 https://www.hansonrobotics.com/
☞ 안승우, 「세계적인 인공지능 선도 기업, 핸슨 로보틱스의 로고는 왜 주역일까?」, 『문학,사학,철학』제66호, 한국불교사연구소, 2021

• 예괘
  

- 뇌지예(雷地豫)
- 예(豫)는 즐거움, 태만, 미리의 세 가지 뜻을 지니고 있음
- 즐거움에만 빠져 방심하여 태만하게 되면 실패를 하기 때문에 미리 경계해야 한다는 의미를 담고 있음
- 안락 속에 고통이 있고 안락 속에 위기가 잠복되어 있음
- 시대의 변화에 맞게 움직이는데 그 움직임이 자연의 질서, 인간사회의 질서에 맞게 움직이는 것임

• 핸슨 로보틱스 회사 소개

 우리 삶의 질을 풍요롭게 하는 사회 지능적인 기계를 만드는 데 전념하는 AI 및 로봇회사
“Hanson Robotics is an AI and robotics company dedicated to creating socially intelligent machines that enrich the quality of our lives”

• 핸슨 로보틱스의 소피아

- 유엔경제사회이사회에 참여했을 때 당시 유엔 사무차장이었던 아미나 모하메드(Amina J. Mohammed)가 “무엇을 할 수 있느냐”고 질문하자 소피아는 “나는 당신을 볼 수 있고 대화를 나눌 수 있으며 단어 속에 숨겨진 말과 의미를 이해할 수 있다”고 응답하기도 했음
- 다시 모하메드가 “인터넷이나 전기를 사용하기 힘든 세계 여러 지역의 사람들을 돕기 위해 유엔이 할 수 있는 일이 무엇이냐”고 묻자 소피아는 ‘미래는 이미 여기에 와 있다. 다만 공평하게 퍼져있지 않을 뿐이다’라는 SF작가 윌리엄 깁슨(William Gibson)의 말을 인용하면서 “인공지능은 음식과 에너지같은 자원을 필요한 곳에 배포하는 데 도움이 될 수 있을 것”이라는 답변을 하기도 했음

• 앤드류 올니(Andrew Olney) 교수가 유튜브에 올린 인공지능로봇 PKD와의 대화

 ☞ 다시 말하지만 이 이야기를 하는 이유는 주역이 대단하다는 이야기를 하기 위해서가 아니라 유학의 가능성과 지평을 넓혀 우리의 상상력을 충분히 발휘해 보자는 취지입니다.

 ☞ 어쩌면 인공지능시대 로봇은 그렇게까지 인류에게 위협적이지 않을지도 모릅니다.

인공지능시대 로봇에 관한 다양한 견해들

☞ Europe Roboethics Atelier, “EURON Roboethics Roadmap”, Genoa; 27th of February〜3rd of March, 2006, p.24.

1. 로봇은 기계일 뿐이라는 관점으로, 로봇은 디자이너에 의해 구현된 것보다 우세한 의식·자유의지·자율성 수준(the level of autonomy)이 부여되어 있지 않다고 보는 견해
2. 로봇은 윤리적 차원을 가지고 있다는 관점으로, 언어·컴퓨터·휴머노이드 로봇은 인간의 타고난 능력을 확장·향상·개선하고, 자선과 선의로 행동하려는 인류에 의해 디자인된 상징적 장치로, 윤리적 차원이 로봇에 내재되어 있다고 보는 견해
3. 로봇은 도덕적 행위자라는 관점으로, 인공 행위자는 도덕적 상황에 개입될 수 있는 실체 부류(the class of entities)를 확장한 것으로, 자유의지·정신상태·책임감 등을 드러내지 않더라도 선·악에 따라 행동할 수 있다고 보는 견해
4. 로봇은 새로운 종의 진화라고 보는 관점으로, 로봇은 자율성·의식을 가지고 있을 뿐만 아니라 인류가 지적 차원에서만이 아니라 도덕적 차원에서까지 인류 이상 가는 기계를 창조했다고 보는 견해
=> 로봇을 단순한 기계적 차원으로 보는 관점에서부터 도덕적 행위자를 넘어 새로운 종의 진화로 보는 관점에 이르기까지 로봇에 대한 학자들의 관점이 다양한 차원에서 논의되고 있음

 ☞ 그런데 이러한 견해들이 단순히 로봇을 어떻게 볼 것인가의 문제일까요? 지금과는 먼 훗날의 미래 이야기일 뿐일까요?

 ☞ 인공지능 로봇을 통해 우리는 오히려 인간은 누구인가에 관한 철학적 성찰을 제대로 해볼 수 있는 때가 된 것은 아닐까요?

인공지능 로봇은 권리의 주체가 될 수 있을까?

☞ 이중기, ｢인공지능을 가진 로봇의 법적 취급 ｣, 『홍익법학』 제17권 제3호, 2016

 ☞ 자율주행차 사고 문제는 당장 우리 눈앞으로 닥쳐온 인공지능시대 윤리문제를 진지하게 생각해 볼 수 있는 출발점이 될 수 있습니다. 자율주행차 사고시 그 책임은 누가 져야 할까요?

☞ 자율주행차 사고 문제에 관해 생각해 볼 수 있는 신문기사

• 권리주체로서의 사람: 권리능력

-권리능력은 고대와 중세 봉건사회에서 제한적으로 인정되다가 17, 18세기에 이르러 “개인의 존엄＂을 바탕으로 하는 자연법사상의 영향으로 모든 사람에게 확대되어 인정됨
-과거 노예는 원칙적으로 권리능력이 부정되었기 때문에 책임재산을 소유할 수 없었고, 따라서 책임능력이 부재했음. 로마시대 노예는 물건으로 취급되었음. 그러나 일정한 예외적인 경우에는 특유재산을 보유할 수 있었음

• 권리주체의 사적자치: 행위능력-자율성

-모든 인간은 권리능력을 갖고 헌법이 보장한 개인의 자유를 누릴 수 있음
-권리능력자인 자연인이 자율적으로 권리를 취득하거나 의무를 부담할 수 있는 일정한 지식수준이 결여되어 있을 때는 이러한 정상적인 인식력, 즉 의사능력의 흠결을 이유로 그 행위의 효력이 부인됨</br예) 미성년자 혹은 성년후견이 개시된 자의 행위는 행위주체의 사적자치능력, 즉 ‘자율성’에 흠결이 있는 것으로 볼 수 있기 때문에 행위의 효력이 부인될 수 있음

• 권리객체로서의 물건

- 권리객체: 권리주체로서의 인간의 권리행사에 대해 그 대상이 되는 것임
⇒ 새로운 현상: 자율성을 가진 물건/현상의 등장
- 자율형 로봇의 등장
- 인공지능의 독자적 ‘자율적’ 판단이 “결과적으로 볼 때“ 오류가 있고 그로 인해 사고가 발생한 경우 누가 그 책임을 지는가?

• 자율주행차를 노예처럼 취급하는 방법

- 자율주행차는 한정적 행위능력은 인정될 수 있으나 권리주체성은 인정되기 어려우므로 법적으로 노예와 비슷하게 취급될 수 있음
- 운행에 대한 책임은 스스로 질 수 없고 주인인 자동차소유자가 대신 책임을 지게 할 수 있음

• 노예의 해방과 로봇의 해방: 로봇의 권리주체성을 인정하는 방법

- 자율주행차에 대해 제한된 목적상 권리능력 인정
- 권리능력이 자유인에서부터 노예로 확대되었듯이, 사람에게서부터 관념적 현상에 대해서도 확대되었음: 법인
- 권리주체성은 인간에서 법인으로, 이제 법인에서 전자인간으로 확대될 것임

 ☞ 그렇다면 자율주행차의 '자율'은 인간의 '자율'과 같은가 다른가?

인공지능의 자율성 문제

☞ Paul D. Scharre, “The Opportunity and Challenge of Autonomous Systems”, ed. Andrew P.Williams and Paul D. Shcarre, Autonomous Systems: Issues for Defence Policymakers, Nato Allied Command Transformation, 2015, 8~11

• 인공지능과 관련된 ‘자율성(autonomy)’에 대한 정의들

- 가장 기본적으로 자율성은 인간의 개입 없이 임무를 수행하는 기계의 능력이라 정의할 수는 있음. 하지만 세 가지 차원에서 다르게 개념 정의가 될 수 있음

1. 하에서 제 기능을 수행하는 로봇의 제한된 자율성으로 그 기계가 오작동을 일으킬 시 언제든 인간이 개입할 수 있는 인간 통제 하의 자율성
2. 자기 지시, 자기 학습 등 복잡하고 규칙에 기반한 시스템을 갖춘 경우 체스를 두는 등의 인간과 유사하거나 때로는 이를 넘어선 자율적 기능을 수행할 수 있는데, 이 경우 기계의 자율성을 인간이 지닌 자유 의지 등과 어떻게 구분할 수 있는가의 문제가 발생할 수 있음
3. 실제 기계의 자율성의 문제는 구체적 임무와 기능 속에서의 자율성. 예컨대 자율주행차의 경우 인간이 원하는 특정 목적지를 가기 위해 자율성의 기능이 부여된 것으로 특정 기능과 목적성의 관점에서 논해야 하며, 이 경우 ‘완전한 자율성(full autonomy)’이란 의미를 잃을 수 있음

 ☞ 이러한 인공지능의 자율성이 문제가 되는 가장 큰 이유는 인간과 함께 생활하기 때문

소셜 로봇(social robot, 사회적 로봇)

☞ 최옥경·정보원·곽관응·문승빈, 「Degree of Autonomy for Education Robot(교육 보조 로봇의 자율성 지수)」, 『인터넷정보학회논문지』 제17권 제3호, 2016
☞ 「소셜로봇(Social Robot)의 기술 소개」, 『방송통신기술 이슈&전망』 제64호, 한국방송통신전파진흥원, 2014
☞ 웬델 월러치·콜린 알렌 지음, 『왜 로봇의 도덕인가』, 메디치미디어, 2008

• 소셜봇은 사람의 행동에 감성적으로 반응하여 인간과 감정을 교류할 수 있으며, 이러한 소셜 로봇은 감성적인 반응과 친근감을 이끌어 내기 위해 인간처럼 실수하거나 엉뚱한 반응을 보이게 하기도 할 수 있음
• 빅데이터로 분석된 실시간 정보와 소셜 네트워크 관계 정보를 맥락으로 하여 소셜 로봇의 자율성은 점점 구체화되고 있는 상황임
• 가정, 병원, 군사지역, 교육기관 등에서 인간과 직접 접촉하며 인간과 상호 대면하는 로봇들임. 이들 로봇들은 청소, 아기돌보기, 자잘한 집안일들부터 수술, 군사지역의 각종 위험한 일들에 이르기까지 인간에게 번거롭고 귀찮거나 위험한 일들을 대신 수행하는 등 인간의 수고를 덜어주고 인간에게 직접적으로 도움이 되는 일들을 수행하는 로봇들임
• 이들 로봇들에게 어느 정도의 자율성을 부여할 것인가에 대해 다양한 분야에서 논의가 되어 왔음
• 예를 들어 최옥경·정보원·곽관응·문승빈은 교육 보조 로봇의 작업 수준과 인간의 개입 필요 정도를 고려하여 그 로봇의 자율성 지수를 1~10으로 구분하여 정리했음. 가장 낮은 지수인 1에서는 지속적인 인간 개입이 요구되고 목소리 인식, 단어에 기반한 간단한 대화를 수행할 수 있는 정도의 자율성이 요구되는 것으로, 교사 대신 출석 부르는 로봇의 예를 들었음. 한편 가장 높은 지수인 10에서는 교사의 개입이 요구되지 않으며 로봇 그 자체가 상황을 판단하는 자율적인 방식으로 업무를 수행하는 정도의 자율성이 요구되는 것으로, 자율적으로 교육 자료를 조작하는 로봇의 예를 들었음. 그리고 1~10 사이의 2~8의 지수에서는 작업 내용에 따라 그 자율성 부여 정도를 구분지었음
• 이처럼 인간과 친밀하게 상호작용하는 소셜봇의 경우 로봇 행동의 지침이 될 윤리적 규칙에 관한 논의는 중요하다고 할 수 있음

• 예) 아시모프 3원칙: 아이작 아시모프(Isaac Asimov)는 1940년대에 이미 로봇 행동의 지침이 될 윤리적 규칙이 필요하다고 예견한 인물로 지금까지 로봇윤리원칙의 기본으로 여겨지는 그의 3원칙은 다음과 같음

 1. 로봇은 인간에게 해를 입히거나, 혹은 행동을 하지 않음으로써 인간이 해를 입도록 해서는 안된다.
 2. 로봇은 인간이 내리는 명령에 복종해야 하며, 단 이러한 명령들이 첫 번째 법칙에 위배될 때에는 예외로 한다.
 3. 로봇은 자신의 존재를 보호해야 하며, 단 그러한 보호가 첫 번째와 두 번째 법칙에 위배될 때에는 예외로 한다.

 ☞ 실제 당장 닥친 자율주행차 사고 문제는 윤리 문제가 우리 눈앞에 다가왔음을 실감하게 한다.

Moral Machine (도덕 기계)

☞ 사이트: https://www.moralmachine.net/hl/kr

• Moral Machine 소개

○ MIT에서 개발
○ 목적
- 윤리적 딜레마 문제에 직면한 인공지능의 결정에 대해 사람들의 의견을 수집
- 일어날 수 있는 문제점들의 시나리오들을 만들어 토론할 수 있는 플랫폼을 제공
○ 구성
- 영어, 한국어, 중국어, 일본어를 포함하여 10개의 언어로 제공
- 진퇴양난의 딜레마 상황 속에서 어떤 윤리적 선택을 할 것인지에 대해 13번의 선택을 하는 방식으로 진행
○ 윤리적 판단의 기준

 1. 희생자 숫자의 중요도: 희생자 숫자의 많고 적음을 중시하는지
 2. 승객 보호 선호도: 보행자와 차량 승차자 중에 누구의 생명을 더 중요시 여기는지
 3. 법규 준수 여부의 선호도: 사고 상황에서 신호 준수를 얼마나 중시하는지
 4. 개입에 대한 회피 선호도: 딜레마상황에서 사고를 피하기 위해 인위적으로 핸들을 틀어 조작하는 것을 중시하는지 아닌지
 5. 성별 선호도: 남성과 여성 중에 어떤 성별의 생명을 중시하는지
 6. 종에 대한 선호도: 인간과 애완동물 중에 어떤 종의 생명을 더 중시하는지
 7. 연령 선호도: 어린아이와 노인 중에 누구의 생명을 더 중시하는지
 8. 체력 선호도: 건강한 사람과 그렇지 않은 사람 중 누구의 생명을 더 중시하는지
 9. 사회적 가치관 선호도: 사회적으로 더 좋은 직업과 명예를 가진 사람과 그렇지 않은 사람 중 누구의 생명을 더 중시하는지

 ☞ 이 윤리게임을 보면서 드시는 생각들이 있으신지요?