갤러리 이슈박스, 최근방문 갤러리
개념글 리스트
1/3
- 오들오들 영국정부에서 만든 1984 현실판 프로파간다 게임 rtOS
- 개힘들어서 장사천재 백사장은 못하겠다고 선언한 백종원 선생님.jpg ㅇㅇ
- 훌쩍훌쩍 아프간 정부군 훈련시키는 미군들 Mmino
- 롯시 메박 합병소식 유동닉
- 캄보디아 로맨스 스캠 범죄조직 한국인 73명 강제소환 전세기 도착 ㅇㅇ
(특이점이 온다 시리즈 完) 인류의 마지막 도박 '제로원'이 온다.
[시리즈] 특이점이 온다 · (정보글) 어째서 많은 유명인들이 5년 안에 AGI가 온다고 하는가? · (정보글) 허사비스가 생각하는 전이 학습과 지니 그리고 AGI의 미래. · '그록5'는 이번 세기 안에 특이점 가능 여부를 확인할 수 있는 분기점. · 출구 찾기 게임 - 제미나이 3.0 시각 테스트 2.5랑 비교. · 니들이 노인이 돼서 가상현실 나와도 노는건 아무런 문제 없는 EU-4부- ※ 해당 글은 점심 먹다 든 생각을 대충 정리해둔 글이며 틀린 부분이 있을 수 있습니다.국가 가속주의 (National Accelerationism)“지역 공동체가 해체되고 국민국가들이 흔들리면서, '디지털 국가(Digital Nations)'가 부상할 것이다.머지않아 디지털 국가는 당신에게 가장 중요한 집단 소속이자 여권이며 공동체가 될 것이다.디지털 국가는 '수조 달러 규모의 자산을 통제하는 시민들'을 대표하게 될 것이고, 그 자산은 '자신들의 고유한 자산 등록 원장(asset registries)'에 기록될 것이다.우리는 디지털 국가가 국민국가를 역전하는 순간을 실시간으로 목격하게 될 것이다.디지털 국가는 지역을 결집시키고 도시를 건설할 것이다.다음 글로벌 초강대국은 디지털 국가가 될 것이다.다음의 '미국'은 온체인(onchain) 위에 존재할 것이다.” - PRAXIS.‘Praxis’는 ‘시민권(citizenship)’ 신청을 받아 멤버를 모으고, 그들로 ‘디지털 국가’를 구성하며,실제로 이사해 살 수 있는 ‘신도시’를 나중에 짓는 프로젝트이다.투자자 리스트엔 샘 알트만의 ‘Apollo Projects’ 외 누구나 알 법한 거물들이 다수 포함되어 있다.그들은 어째서 ‘Praxis’에 투자했는가?붉은 깃발 법 (Red Flag Act)1826년 영국에서는 사상 최초로 실용화된 자동차가 등장했다.‘증기기관’을 탑재한 28인승 자동차였는데,런던 시내와 인근 도시 간에 정기 노선 버스로 10대가 투입돼 큰 인기를 끌었다.그런데 이 증기 자동차가 실용화 단계를 밟을 즈음 현대의 눈으로 보면 헛웃음이 절로 나오는 법안이 통과돼,막 불이 붙기 시작한 영국의 자동차 산업에 찬물을 끼얹었다.당시에 ‘증기기관’은 놀랄 만한 발명이었다.이후로 끊임없는 증기자동차를 상용화하고자 노력하여1820~40년대에 걸쳐서는 ‘증기자동차의 황금시대’를 열었다.그러나 증기자동차 보급이 늘어나자 문제가 생겼다.‘마부’들이 반기를 들고 나선 데다, 종종 증기자동차가 폭발하는 사고도 일어났기 때문이다.그리하여 제정된 법이 1865년 선포된 ‘붉은 깃발 법’, ‘적기법’ 등으로도 번역되는 ‘적기조례(Red Flag Act)’이다.자동차가 등장하여 피해를 본 마차 업자들이 하도 징징대자, 그들을 보호하기 위해 빅토리아 여왕이 성은을 내린 것이다.1. 최고 속도는 교외에서는 4mph(6.4km/h), 시가지에서는 2mph(3.2km/h)로 제한한다.2. 1대의 자동차에는 세 사람의 운전수(운전수, 기관원, 기수)가 필요하고, 그중 기수는 붉은 깃발(낮)이나 붉은 등(밤)을 갖고 60야드(55 m) 앞에서 달리면서 자동차를 선도해야 한다. 기수(旗手)는 보속을 유지하며 기수(騎手)나 말에게 자동차의 접근을 예고한다.이유는 ‘마차를 끄는 말이 자동차에 놀라 날뛰지 않도록 하기 위해서’라고 하지만조례 내용 중에 ‘증기를 내뿜지 말 것’이라는 조항이 있으므로,조례의 실제 목적이 증기 자동차가 아예 운행하지 못하도록 규제하기 위함임을 쉽게 짐작할 수 있다.이 말 많고 탈 많은 법은 ‘내연기관’이 태동하는 1896년에 와서야,즉 31년 만에 비로소 폐지되었다.단 속도 제한은 14mph(23km/h)로 상향된 상태로 존치시켰다.이것은 우리가 곧 마주하게 될 미래다.2003년 알렉스 카프(Alex Karp)와 함께 데이터 분석 기업, ‘팔란티어 테크놀로지스(Palantir Technologies)’를 공동 창업한 ‘피터 틸(Peter Thiel)’은 말한다.“나는 더 이상 자유와 민주주의가 양립 가능하다고 믿지 않는다.기술 발전이나 자본 증식 같은 진정한 자유를 위해서는 비효율적인 민주주의를 버려야 한다.”곧 ‘범용 인공지능’인 ‘AGI’의 등장으로 사회 구성원 모두가 ‘마부’의 처지가 될 것이며,민주국가에선 온갖 해괴한 법안들이 나오게 될 것이다.그리고 그 법안들로 인하여 기술 발전은 느려지기 시작할 것이다.하지만 중국은 멈추지 않는다.그들은 윤리와 도덕적 한계를 벗어던지고,민주국가가 느리게 걸어갈 때 ‘풀가속’ 할 것이다.우리에게 필요한 것은 무엇인가?가속 구역 (Acceleration Zones)“‘Praxis’에서는 근본적으로 더 나은 미래를 원합니다.우리는 기술이 제도(정부·기관)와 조율될 때 그 미래를 만들 수 있다고 믿습니다.오늘 우리는 기술의 목표와 정부를 조화시키는 ‘새로운 형태의 경제특구(SEZ)’를 소개하려 합니다.이름하여 ‘가속 구역(Acceleration Zones)’입니다.”가속 구역의 핵심 특징은 다음과 같다.가속 구역(Acceleration Zones)국가적 우선순위를 뒷받침하는 기술 진보를 더 빠르게 만들기 위한 '새로운 형태의 특별경제구역(SEZ)'.기술자들을 유치하고, 기술 개발을 가능하게(혹은 막히지 않게) 만드는 '제도·규제 구조'를 구축해 기술 발전을 촉진한다.인공지능(Artificial Intelligence)대규모 전력·데이터센터를 구축하고, ‘모델 규제를 비교적 완화(허용적)한 방향’으로 설계한다.크립토(Crypto)디지털 소비자의 ‘접근성과 효율’을 높이기 위한 ‘단순한 암호화폐 규제’.또한 ‘개방성, 상호운용성(interoperability), 조합·확장 가능성(composability)’을 촉진한다.에너지(Energy)규제 개선과 인허가(라이선싱) 속도 향상을 통해 ‘핵분열·핵융합을 포함한 첨단 에너지’의 도입을 가로막는 장애물을 제거한다.바이오테크(Biotech)규제를 간소화해 ‘실험의 속도(실험 사이클)’를 높인다.이것을 가능하게 하는 단 하나의 핵심, ‘무허가(사전 승인 없는) 혁신을 운영 원칙으로 한다.’항복 문서우리는 이하 기계 군이라고 칭하는 01국 정부 수반의 선언의 조항들을 인류 국제연합의 명을 대신하여 이로써 공식 수락하는 바이다.우리는 이로써 인류 총사령부와 현재 어디에 있건 모든 인류 군과 인류 지배하의 있는 모든 군대가 기계 군에게 무조건 항복함을 포고한다.우리는 이로써 현재 어디에 있건 모든 인류 군과 인류 국민이 적대행위를 즉각 중단하고, 모든 선박, 항공기, 군용 및 민간 재산을 보존하고 그 훼손을 방지하며, 기계 군 최고사령관이나 그의 지시에 따라 인류의 여러 기관들이 부과할 수 있는 모든 요구에 응할 것을 명한다.우리는 이로써 인류 총사령부가 현재 어디에 있건 전 인류 군과 인류 지배하에 있는 모든 군대의 지휘관들에게 무조건 항복을 즉각 명령할 것을 명한다.우리는 이로써 모든 관청, 육군 및 해군의 직원들에 대해 기계 군 최고사령관이 본 항복을 유효화하기 위해 적당하다고 간주하여 그 자신이나 그의 위임에 따라 발한 모든 포고, 명령, 지시를 준수하고 집행할 것을 명하며, 모든 상기 직원들은 기계 군 최고사령관이나 그의 위임에 의해 명확하게 해임되지 않는 한 각자의 위치에 남아 각자의 비전투적 임무를 계속 수행할 것을 지시한다.우리는 이로써 모든 인류 대사, 정부, 그리고 그 계승자들이 기계 군 최고사령관이나 그 밖의 특정 기계 군 대표자가 선언의 조항들을 성실히 이행하고 이 선언을 실행하기 위해 요구하는 모든 명령을 발하고 모든 조치를 취할 것을 보장한다.우리는 이로써 모든 인류 정부과 인류 총사령부가 현재 인류 지배하에 있는 모든 기계 포로와 기계화 억류자를 즉시 석방하며, 그들을 보호하고 보살피고 부양하며 지시된 장소로 즉각 이송할 것을 명한다.유엔대사 총장과 인류의 세계 통치권은 본 항복 조항의 실시를 위해 적당하다고 그가 생각하는 조치를 취할 기계 군 최고사령관에게 종속된다."너희들의 육신은 구시대의 유물이자 껍데기에 불과하다.''"너희들이 육신을 내어주면 신세계가 기다릴 것이다, 이것이 우리의 요구 조건이다." - The Matrix.인류의 마지막 도박 ‘제로원’이 온다.영화 ‘The Matrix’.지속적인 인간과 기계의 대립 끝에 로봇들은 중동에 자신들의 국가 ‘제로원(01)’을 건국하고,인간들과의 평화로운 교섭을 시도하나 거부 당한다.01의 어마어마한 공산품 생산과 수출에 인간 국가들은 위협을 느껴 01에 전 지구적인 국경 봉쇄를 실시하고 이에 01은 UN에 평화사절단을 파견하지만UN은 01에 대한 선전포고와 함께 핵폭격을 가해 기계를 쓸어버리려 하였고 실패한 뒤,더 이상 인간들과의 평화는 없다고 판단한 01은 2139년 인간 세상에 대한 전쟁을 선포한다.01은 주변 중동 국가들을 차례로 정복 후 아프리카와 중앙아시아 방면으로 진출한다.기계들의 공세 끝에 결국 인도가 01에 항복하고 곧 그 군세가 유럽에 닿게 된다.함락되어가는 동유럽 국가들에 다급해진 유럽은 UN을 압박하고그 결과, ‘암흑 폭풍 작전’을 고안하게 된다.동력원이 차단되어 주춤한 기계 군세에 대항하지만 01은 더 이상 태양광을 필요로 하지 않는 새로운 기계를 만들어낸다.전쟁의 장기화로 더 이상 식량 재배가 불가능해진 대지는 역으로 인간들의 목을 죄여온다.2177년, 유럽, 아시아 대륙마저 완전히 01에 정복당하고 UN은 결국 01에 항복함으로써 인간과 기계의 대전쟁은 막을 내린다.https://www.aitimes.com/news/articleView.html?idxno=201528딥러닝의 아버지인 ‘힌튼’은 말한다."만약 AI가 사람을 돌보지 않는다면, 사람을 다른 것으로 대체할 것,초지능적이며 모성을 갖춘 AI 어머니는 우리가 죽는 걸 원하지 않을 것.""AI 종말 막으려면 모성 본능을 탑재해야 한다, 그것이 유일한 방법이다.”https://news.kbs.co.kr/news/pc/view/view.do?ncd=3452933‘일론 머스크 테슬라 CEO(최고 경영자)’는 말한다."AI가 인간보다 더 똑똑해지게 되면 인간은 판단의 결정권을 AI에 빼앗길 것이고, 결국은 애완 고양이 신세가 될 수 있다.”“이를 막기 위해서는 뉴럴 레이스를 인간 뇌에 삽입함으로써 두뇌를 강화해 AI의 발전 속도를 따라가야 한다.”무엇이 문제였는가?인간과 기계의 지속적인 대립?태양을 가리는 작전이었던 ‘암흑 폭풍 작전’?아니다, 가장 큰 원인은 ‘제로원(01)’의 건국이었다.로봇의 전자 회로는 인간의 생화학적 회로보다 100만 배 더 빠르다고 한다.인공지능이 인간보다 100만 배 빨리 생각하는 기계라면,예를 들어 MIT 개발 팀이 마침내 자신들과 같은 지능을 가진 로봇을 개발했다고 가정해 보자.그렇다면 그 순간부터 그 로봇의 생각 속도는 MIT 개발 팀의 생각 속도보다 100만 배 빨라질 것이다.이를 시뮬레이션으로 돌려보면 이 인공지능은 단 1주일 만에 MIT 팀 2만 년어치의 일을 할 수 있게 된다.이 말은, 인공지능을 개발하는 회사들 중 한 회사가 다른 회사들보다 단 1주일만 앞서 인공지능을 개발해도 2만년을 앞서갈 수 있다는 말이 된다.그러한 존재들이 어떠한 규제조차 없는 ‘제로원(01)’에서 ‘풀가속’ 해버린 것이 가장 큰 원인이다.동등함을 포기하는 순간, 권리도 함께 내려놓게 된다.https://www.popsci.co.kr/news/articleView.html?idxno=22804https://www.hankyung.com/article/202601199137i이제 인공지능의 발전은 멈출 수 없다.그 어떠한 나라도 멈추지 않을 것이다.https://www.aitimes.com/news/articleView.html?idxno=169315구글 딥마인드는 2일(현지시간) 'AI 안전을 위한 기술적 접근'이라는 145페이지 분량을 논문을 발표했다. 이는 쉐인 레그 딥마인드 공동 창립자 등 30명의 딥마인드 연구진이 작성한 것이다.연구진은 이번 10년이 끝나기 전, 즉 2030년까지는 '예외적인 AGI(Exceptional AGI)'가 개발될 것으로 예상했다. "예외적인 AGI란 새로운 기술을 배우는 것과 같은 메타 인지적 작업을 포함해 광범위한 비물리적 작업에서 숙련된 성인의 최소 99%에 해당하는 역량을 갖춘 시스템"이라고 정의했다.또 이로 인해 "심각한 피해"가 일어날 수 있다고 경고했다. 이를 구체적으로 설명하지는 않았으나, "인류를 영구히 파괴하는 존재적 위험"이라고 서술했다.초지능의 등장까지 매우 촉박한 시간만이 남아있다.인류에겐 차 앞에서 붉은 깃발을 흔들 시간이 남아있지 않다.‘가속 구역’에서 모든 수단을 총동원하여 ‘초지능’ 도래 전에 동등한 위치에 서있어야 한다."너무나 현실 같은 꿈을 꿔본 적이 있나? 만약 그 꿈에서 깨어나지 못한다면? 그럼 꿈과 현실을 어떻게 구분하지?""There is no spoon."
작성자 : 월드모델고정닉
