턍턍이
2022. 12. 24. 13:27
2022. 12. 24. 13:27
- 인간과 인공지능 둘다 불안전하다.
- 불안전한 인간과 인공지는은 협업을 해야 한다.
- 인공지능은 데이터가 필요하고 인간은 데이터 및 프라이버시 보호가 필요하다.
- 인간에게는 프라이버시를 보고하고 동시에 인공지능은 데이터를 활용해 모델을 개발하고 공유하여 인류의 번영을 꾀한다.
AI 정의
- 인간이 만드는 지능
- 지능은 성공적인 행동을 산출하는 것 ( 생각하는 것이 아니라 행동하여 성공하는 것)
- 우리는 AI에게 목표를 잘 설정해야 함.
- 목표를 달성한다는 것은 합리적으로 행동하는 것이고, 수학적으로는 목표 함수를 최적화 하는 것.
불안전한 인간과 AI
- AI : Incomplete, imperfect
- 인간 : 완벅하게 합리적일 수 없다, 제한적인 합리성, 인간능력의 한계 존재
- 허버트 사이먼 : 인간에 대한 솔직한 관찰과 설명을 한 후 제한된 합리성(노벨경제학상, 튜링 어워드)
- 컴퓨터가 아무리 발전을 해도 세상의 많은 문제를 원하는 시간에 발견할 수 없다.
- 불가능성에 대한 발견으로 튜링어워드(스테픈 쿡과 리처드 카프, NP-Hard, NP-Complete)
- 퀌텀 컴퓨팅이NP-Hard, NP-complete이론에 대한 답을 구하는 시간을 단축하는 연구의 일환
- 프리드리히 하이에크 : 중앙집권적 계산불가능성 > 서로 교환, 협상, 흥정하는 시장 메커니즘
- 하이에크 "감각적 질서 : 이론 심리학의 이론적 기초에 대한 탐구"
- 쿠르트 괴델 : 어떠한 공리체계도 증명할 수 없는 참인 명제가 항상 존재하며, 따라서 스스로 모순성이 없음에 대한 증명은 불가능하다는 불완전성을 증명
- 베르너 하이젠 베르크 : 어떤 입자의 위치와 운동령을 모두 정확하게 알 수는 없다는 불확정성 원리를 발견(세상 만물의 어떤 상태를 정확하게 파악 할 수는 없다.)
- 케네스 애로 : 우리가 바람직하다고 여기는 의사결정의 기준을 모두 만족시키는 위사결정 메커니즘은 만들 수 없다는 것을 증명한 불가능성 정리를 제시
- 블록체인 트릴레마;Trilemma) > 확장성(scalablility), 보안성(Security), 탈중앙화(Decentralization)을 모두 만족시키는 블록체인을 만들 수 없다.
- 이 모든것이 인간을 겸손하게 만들고 AI의 한계를 생각하게 한다.
AI의 계속될 실수
AI는 늘 실수를 할것이다. 실제 최적의 해가 아닌 경우 AI는 실수를 한 것이다. 인류는 AI가 실수를 한다는 점을 인식하고 그점을 오히려 활용해야 함.
불완전한 인류가 실수하는 불완전한 AI를 사용하는 방법
- 세렌디피티(Serendipity)적 활용😎
- AI 모델을 결합하는 앙상블
- Digital Me
- AI 공유
세렌디피티 : 운 좋은 발견
- 세렌디피티는 신성과 인간성, 우연과 필연, 행운과 노력, 마술과 공학사이에 있다
- 루이 파스퇴르 박사 : "Prepared Mind" 준비된 자에게 세렌디피티가 온다
- 인간은 노력 즉, 공학을 준비하여 우연, 마술, 행운, 신성과 같은 세렌디피티를 창출한다.
Many Model Approach
- 하나의 문제에 여러 모델을 검토하는 것
- "The Last Dance" : 우수한 농구선수 한 명을 키우는 것도 중요하지만 우수한 농구팀을 이끄는 감독, 그런 팀을 만드는 구단주의 마인드
- 원활한 후보 모델을 도입하기 위하여 AI 시스템을 모듈화하고 여러 기법을 조화시키는 방법론을 활용
크로스체킹(사례와 지식)
- 잘했던 과거살례에서 현재를 다듬어 나가고, 현재의 첨단 지식을 수집하는 등 사례와 원칙을 크로스 체킹
- AI가 인간의 지능을 보완하고 인간이 AI를 보안하는 행동시스템
상호 보완과 점진적 개선
- 사회에 존재하는 불완전한 인간과 불완전한 AI 시스템의 서로 지능을 공유하고 협력
- 점진적 개선을 위해 인간은 목표를 설정하고, 데이터와 AI의 도움을 받아 가장 비슷한 사례와 비교해 그 사례가 잘 됐던 방향으로 문제를 풀어
인간과 AI가 서로 투영
- 불완전한 존재인 인간과 불완전한 AI가 서로를 서로에게 투영해가면서 스스로 점진적으로 개선
- 자신의 자화상을 AI가 계속 그려주고 보여줘서 인간의 발전을 도와주는 것
- 조지 자카다키스(In Our Own Image) : 인간은 자신이 발전시킨 자신이 창조한 문명에 자기 자신을 투영해왔다고 설명
디지털 나(Digital Me)
- 인류가 AI를 활용해 자신의 자화상을 그리고 이를 통해 자신을 관리하고 발전시키는 것이 현명
- 밀란 쿤데라(지혜 : 인간은 태어날 때 수백만 개의 육체 중 한 개를 받게 되는데, 큰 호텔의 수백만 객실중 하나를 할당받는 것과 같다.)
- 프랑수아 리카르(쿤데라의 희곡:자크와 그의 주인에 대한 평론 > 유알한 것은 덫이고, 불행은 강박적 차이 추구에서 오며, 독창성은 허상이고, 청소년기의 찬진한 소산이 뿐, 일종의 자만이라고 역설한다. 진정한 자유와 지혜는 반복에 대한 자각에서 온다는 것)
데이터 공유가 아니고 AI 공유