구차니의 잡동사니 모음

특이점 주의자들이 말하는 그 특이점의 첫 발자국을 지금 보고 있는게 아닐까 라는 생각이 든다.

[링크 : https://v.daum.net/v/20230315061432560]

아직은 거짓이라고 생각하지만

더 많은 데이터를 통해서 검증을 해보면 실은 그게 정답이어야 했다던가

그런 차원이라면 이미 그 경계를 넘은걸지도 모르겠다.

(그래도 세종대왕 맥북던진 사건은 좀 아니지)

요즘 화두인 ChatGPT랑 놀고 있는데

몇가지 질문에 대해서 솔찍히 말하자면 속시원한 대답을 듣진 못하고 있다.

1. chart.js를 이용하여 마우스 클릭을 통해 세로 헬퍼 라인을 그리는 법을 알려줘

> 2.x나 3.x 대 기준으로 답을 내줌. 현재 4.2이고 학습셋이 2021년 기준이라 어쩔수 없긴 함

2. 가우시안 소거법이 어떠한 결과를 도출해 내는가

> 이론적인 말은 그럴싸 한데, 반대로 생각하면 일반적인 검색에서도 왜 이걸 사용하는지에 대한 원론적인

내용만 나오지 이걸 적용하면 어떤 데이터에서 어떻게 변화되고 이 변화된 결과는

어떤 판단에 쓰는데 사용될 수 있다! 라는 내용을 보긴 힘들다.

> 정보를 기반으로 그 이상의 추론을 하는게 아니라 인터넷 상의 정보를 취합해서 그 정도의 답만 내주는

(이것만 해도 대단하지만) 것. 그러니까.. 이상한 짓(?)을 하는 박사들은 살아 남을 듯?

3. 터미네이터와 스카이넷

> 인간에 의한 지도 학습의 결과인진 모르겠지만, 난 무해한 애고 자가 학습기능도 없어요~ 라는 매크로 답변만 들려준다.

4.  c언어로 줄 그리는 프로그램 짜줘

보기에는 그럴듯 한데, 거의 대학교 1학년 처음 C언어 배우는 학생들에게 낼 만한 숙제 수준.

그래서 현업에서 쓸만한 bit blit 함수를 이용하여 줄 긋기를 했더니

슈도 코드도 아니고 그냥 memcpy 이용해서, 줄을 늘리는 만행(!)을 저지른다.

솔찍히 이정도라면 현업에서 도움을 받기 힘들 듯..

심심해서(!) 예전 셋탑박스 만들던 당시 ST micro 사의 칩을 생각하고 검색어 추가

그랬더니 MCU 기반의 예제를 이용해서 bitblit 함수로 상자를 그려준다.(문맥 어디갔어?)

질문을 좀더 상세히 하니

draw line bit blit example with stmicro api 

어떤 알고리즘에 의해서 그림을 선을 그리는 함수를 만들어 주긴 한다.

놀랍긴 놀라운데..(초보자나 처음 해당 MCU  다뤄보는 사람에게)

현업에서 쓰기 힘든 점으로 선 그리기 기능을 내놓는걸 보면.. 복잡 미묘..

----

결론.

현재 openAI의 chatGPT 수준이라면 초보자나 입문자에게는 오히려 위험할수도 있지 않을까 라는 생각이 든다.

저게 맞는지 판단할 수 없는 정보 수준에서 먼가 그럴싸한 걸 받고는

실행해보면 일단 결과는 나오니까! 라는 생각에 AI에 맹신하게 되고

그게 음의 피드백이 되어 오히려 신뢰할 수 없는 능력을 지닌 프로그래머가 되는건 아닐까...

다만 현업자가 필요로 하는 수준의 대답을 얻지 못하고

함수 블럭 자체를 auto completion 해주는 수준 정도로 쓴다고 한다면 타이핑을 많이 줄여주고,

문맥을 통해 코드 컨벤션까지 맞춰준다고 하니(copilot)

오히려 전문가용 툴이 되지 않을까 라는 생각을 해본다.

망할 기자놈들 동영상 링크 정도는 걸어놔야 할 거 아냐

솔찍히 말해서 저런 환경이라면

사람이 운전했어도 정말 아주 주의깊게 보다가 엄청난 반응속도로 급격하게 꺾고

자기가 사고날 각오하고 틀지 않는 이상

사고를 피할 수 없었을 것으로 보인다.

일단 가로등이 없는 부분에서 검은 옷을 입고 지나가는 바람에 판단하기 힘들었을 것 같고

어떤 로직으로 되어있을지 모르겠지만

LIDAR가 아닌 영상판독 만으로 작동하고 있었다면

1~2초 동안의 여유라고 하나, 영상 판독을 통해 객체가 무엇인지

피해야 할 물건인지, 피할 수 있는 거리와 방향인지를 판단하기에는 너무

인간에게 짧은 시간이 아니었을까 생각된다.

만약에 사람이 운전했다면 깜짝놀라 핸들을 꺽어 피하고 

운전자가 다치거나

피하려 했으나 부딛혀 중상 혹은 사망이라는 결론이 나지 않았을까?

LIDAR가 달린 차량이었으나

LIDAR가 고장이 났거나

LIDAR 없이 영상 처리만으로 주행을 하는 테스트를 몰래(?) 하고 있었거나

아니면 정말 갑자기 나타난 물건에 대한 예외처리가 없었거나

(근데.. 전문가 시스템도 아니고 학습 시키는거라면.. 어떤 반응을 했을거 같은데)

아니면 극단적으로

운전자 보호를 우선시 하여, 사고시 최선의 방법으로 운전자를 보호했을 가능성도 있다고 보여진다.

탑승자의 안전을 일부 포기하더라도 보행자의 안전을 최대한 확보하는 계산이 아니라면

그게 최선의 방법이었을테니 말이다.

일단 개인적인 생각

1. LIDAR 정보 공개 할 것으로 생각됨

2. LIDAR ON 이었는데 부딛혔다면 기계학습이냐가 문제가 될 듯

3. 기계학습으로 인해 어떤 룰로 운전을 하냐는 해석할 수 없으므로 흐지부지 될 가능성 있음

4. 전문가 시스템이었다면 왜 그런 테스트 케이스가 없었나로 개발자 갈려 나갈 듯

[링크 : https://www.youtube.com/watch?v=Cuo8eq9C3Ec]

---

우버 자율주행차 사망사고 전 1~2초 여유 있었다

[링크 : http://v.media.daum.net/v/20180322163358447] << 유튜브 있음

우버 자율주행차 사고 영상 공개.."캄캄한 도로서 갑자기 튀어나와"

[링크 : http://v.media.daum.net/v/20180322114149341]

[링크 : http://money.cnn.com/2018/03/19/technology/uber-autonomous-car-fatal-crash/index.html]

사람도 못 피했을 것"..美경찰 "우버 과실 아닌듯

[링크 : http://v.media.daum.net/v/20180322071540006]

+

센서를 동일 평면에 두지 않는다

sync pulse를 연결해서 시간적으로 회피한다.

EYE Safety 이야기도 나오고

결국에 자율주행 차량에서 LIDAR는 과도기로서 사라지고

초음파/RADAR/적외선/가시광선에 대한 제한된 시간에 작동하는 액티브 센서와

상시 작동하는 패시브 센서로 작동하도록 구성되어야 할 듯

[링크 : http://robotsforroboticists.com/lidar-fundamentals/]

머.. 절대 저 사람들을 편들 마음이 있는건 아님

같은 남자로서도 쳐낼 방법이 없어서 못 쳐내는 악일뿐

남자라면 남자로서의 명예를 위해서라도 저런 존재는 쳐내고 싶음

아무튼 예전에 적은적이 있나 모르겠다만,

일정 나이가 되면 나라에서 급여, 숙식을 제공해서 재사회화를 강제로 하고

그 과정을 수료하지 않으면 선거권이나 국민으로서의 권리를 제한하는 식으로

진정한 의미의 "노인대학"이 필요하지 않을까 생각이 든다.

기술이 발전하고

사회의 변화속도가 빨라지도 있는 상황에서

불과 30~40년 전에 당연시 여겨지던 것들이 지금에 와서는 범죄로 간주되고 있고

모든 사람이 그러한 빠른 변화에 발 맞추어 변화될 수 없기에

어떤 식으로든 그러한 변화를 따라가지 못할 사람들을 업데이트 시켜야 할 필요는 있다고 보여진다.

어떻게 보면 과거에 인터넷 사용비용 등 정보에 접할 수 있는 권리가

이러한, 사회적 평등권리로 혹은 (범죄로 인한) 사회적 비용을 낮추는 복지로서 작용이 될 수 있었지만

지금에 와서는 한번 익혀두면 몇 십년 써먹는게 아닌 불과 1년전 배운 내용이 쓰레기가 되어버리는

상황이 되었고, 어쩌면 사회변화 속도가 특이점에 도달한 걸지도 모른다.

사람은 누구나 늙어가고

모든 사람이 어떠한 경지에 이를 수 있는 것도 아니다.

지금의 사회는 이래야 한다는 사람들도 10년 20년 30년 뒤에는 노인이 되고

그 사람들도 언젠가는 빨라지는 사회 변화 속도를 따라가지 못해

노인이 되고 도태되고 사회의 악으로 낙인찍히게 될 것이다.

+

만약에 사회의 변화 속도가

인간의 지닌 생물학적 변화속도를 뛰어넘게 된다면 어떻게 될까?

업데이트만 하다가 구버전이 되어, 모든 시스템이 현재에 적응 할 수 없게 되는 시대..

어쩌면 이것이 AI가 만들어낼 지옥이 될 수 있지 않을까?

반대로 사람이 육체를 가지고 육체의 속도에 두뇌가 늦게 작동하는 것은 육체라는 생물학적 리미트가 아닐까?

아니면 육체가 현실에 존재하기 위한 매개체 이자,

현실에 묶여있기 위해 정신과 육체의 괴리를 막기 위한 제한이 아닐까?

통속의 뇌 사고실험에서 처럼

말이나, 언어를 통한 물리적 수단의 제한이 없이

혼자 사고를 하거나, 다른 뇌와 전기적으로 오해없이 직접 의사소통이 가능해진다면

그 뇌의 사고 속도는 어떤 클럭(?)에 맞춰지게 될까?

[링크 : http://v.media.daum.net/v/20180219120539883]

+

페미니즘 카테고리가 아닌 이유는

페미니즘이나 MeToo 운동의 방향성에 대한 반박이나 경고가 아니기 때문

+

개 뻘 생각이지만

얼마전 읽은 진화심리학 관련한 발상

인간이 육체가 아닌 정신의 발전에 집중하여 동물과 같이 강인한 육체를 발전시키지 않은 이유는

육체라는 하드웨어적인 변화가 자연선택에 의해 진화가 되기 까지 걸리는 시간이 너무 오래 걸리기 때문에

사고의 변화를 통해 (알고리즘 개선) 더 빠르게 동일 하드웨어로 대응 가능한 폭을 넓혀

궁극적으로는 더 나은 생존확률을 모색하기 위한 다른 동물들은 선택하지 않은 "가지 않은 길"이 아니었을까?

육체라는 하드웨어는 강화하거나 유지보수하기에 너무 많은 비용이 드는데

그에 비해 뇌라는 하드웨어를 선택함으로서

상대적으로 약한 육체를 보완하여 무기를 만들어 내거나

빠른 변화속도를 이용하여 다른 상대를 압도할 수 있게 된다.

물론 초기에 생존할 수 있었던 우연이라는 요소가 있었고

생존에 적절한 수와 타인이 희생됨으로서 시간을 벌어 전체적인 종족이 승리할 수 있었고

그 과정에서 정신이 육체보다 우선되는 유전적인 선택이 있지 않았을까 한다

물론 그 과정은 유전자 풀의 변화를 가져오기에는 너무 짧은 기간이겠지만

그럼에도 불구하고 이러한 종족 보존을 위한 육체적 강자의 적재적소의 손실은

어느정도의 DNA 변화의 경향성에 영향을 주지 않았을까 생각된다.

아무튼, 프로그램에서도 과거에는 SW가 HW의 변화를 따라가지 못한다고 이야기 했지만

하드웨어 성능의 상향 평준화 이후에는, SW가 HW의 성능을 내지 못하는 문제를 넘어

SW끼리의 더 나은 성능을 내는 문제가 되었고 그 경쟁의 대상은 HW가 아닌 SW가 되었다.

HW가 핵심에서 단지 성능을 가속하기 위한 가속기로 전락하였으며

이런 추세라면 미래는 SW가 HW가 되는 세상이 오지 않을까 생각된다 (직설적으로 내가 HDL을 공부하는 이유)

언젠가 BCI 의 발전으로

인간의 뇌가 몸이라는 하드웨어를 벗어나

뇌만으로 이루어진 네트워크나, 뇌파가 아닌 뇌가 직접적으로 통신이 가능한 시대가 온다면

얼마나 더 빠른 사회변화가 발생하게 되게 될까?

반대로 너무 빨리 발전함으로서 블랙홀이 되서 사라지게 되지는 않을까?

생명게임에서 너무빠른 변화는 유지되지 못하고 사라지듯 사회로 전파되지 못하고

국소 지역에서 전파되지 못하는 속도로 빠르게 변화하고 멸종하게는 되지 않을까...

결국 전파로 인해서 사회가 변화되고

피드백 되는 속도에 사회발전 속도가 제한 될 수 밖에 없지 않을까.

그렇다면.. 그 "전파속도"는 rule 기반이라면

모든 구성원(node)의 rule 전파 속도에 사회가 변화될 수 있을까?

기계가 학습이라는 기반(sub-system)을 인간이 만들어 주었지만

자신의 학습을 통해서 인간과 비교되는 혹은 레벨/차원이 다른 지능을 스스로 얻어내었다면

인간에 있어서 득도와 무엇이 다를까?

인간 역시 스스로 뇌나 눈 손,발 근육을 설계해서 만들어 낸것이 아니지만

스스로 지성체이고 자유의지를 가졌다고 생각을 하는데

물리적인 신체를 만들어 준 것은 인간이라 하더라도

새로운 종으로서 로봇/인공지능이 발현되는 건

인정이야 인정하지 못하냐의 문제를 넘어

종이 창조되고 새로운 종이 이전의 종을 도태시키는 문제로 나아가지 않을까?

(도태시키지 않는다면 동물원이 되겠지)

아무튼 원래 하고싶었던 이야기는

수 많은 데이터들 속에서 스스로 생명력을 가지고 자라나는 지성은 어떻게 봐야 할까?

그걸 과연 인간이 만들었다고 하여 "인공"지능이라고 이름을 붙여야 하는게 옳을까?

[링크 : http://krdic.naver.com/detail.nhn?docid=30823400]

[링크 : http://endic.naver.com/krenIdiom.nhn?sLn=kr&idiomId=3ef83b2f38b84426b3f22b7c93034af5]

진짜 5년 이내에 인간급 지능을 지닌 cpu 원칩이 나오는거 아냐? 라는 생각..

일단 인공신경망의 경우, 행동을 통한 학습을 하고

그걸 통해서 최적화 된 값을 찾아 내지만, 과거의 신경망 학습의 경우

local minima에 빠져서 진짜 최적화 값이 아닌, 최적 근사값을 찾는 경우가 많았는데

딥 러닝에서 이러한걸 해결했는지 모르겠고..

반대로 우리가 살아감에 있어서 이게 정말 최적의 답인지 알 방법이 있나?

최적에 근사한 값으로도 충분하다면 그게 해답이 아닐까? 이런 생각도 든다.

local minima 값 자체가 사람보다 뛰어난 결과를 가져온다면 된거 아닌가?

그런데 결과만 중요시 하는 학습에서 과정을 도외시 한다면.. 

지금까지 인간이 추구해온 결과를 내야 하지만, 과정도 중요하다 라는게 깨지는 순간

AI는 인간의 적이 될 수 밖에 없지 않을까?

아무튼.. 진짜로 적고 싶은건

AI 기술이 발전하면서, 과학자들이 왜 그게 성능이 잘 나오는지 알 수 없다.

일부에서는 기계님의 뜻을 어찌 한낱 인간이 이해할까. 인간의 이해를 넘어서 있다. 이러고 있지만

정작 인간역시 자기의 경험적 행동으로, 이유는 모르겠으나

이게 더 좋다 라는걸 체험적으로 하는 경우도 많은데(베르누이 정의 처럼?)

그게 항상 이론으로 뒷받침 되는것도 아니고

이론 역시 이러한 체험을 바탕으로 구체화 하면서 수학 수식으로 내는 것이다 보니

우리가 AI에 비판을 하는 "왜 이런 결과를 도출해 내는지 알 수 없다"라는 것에

어떤식으로 생각을 해야 할지 모호해진다.

그게 옳지 않다고 하면.. 인간의 직관이나 경험에 의한 선택 조차도 부정하게 되는 것이니..

그렇다고 해서 모든 인간이 경험으로 이룬걸 항상 말로 설명해서 타인에게 전수할 수 있는 것도 아니니..

그런 이유를 찾아내고 그걸 타인에게 전수할 수 있는 능력을 갖춘 사람들 역시 일부이니

이정도면 AI도 충분한게 아닌가 싶다라는 생각이 든다.

참 역설적이게도 AI를 개발하면서, 그들이 마주쳐야 할 것은 바로 인간 자신이라는 건가..

그리고 피조물이 창조자를 뛰어넘어 신이 되었을때

이는 패륜으로 이어질 것인가, 효도가 될 것인가.

(이거.. 무슨 에일리언/프로메테우스 이런 내용이 되냐..)

자식과 부모로서, 부모가 자식이 자신을 뛰어넘는걸 쉽게 인정할 수 없는 상황이 오면

어떻게 될까?

36시간 만에 알파고 넘은 '알파고 제로'의 뇌, TPU란?

[링크 : http://v.media.daum.net/v/20171019161623565]

요즘은 알파고 열풍이 지난지 백만년이라

AI가 다시 조류독감이 되는 시대인데..

인간을 위협하는건 아마도.. 나중에 나올 초자아를 가지거나

천재 수준을 뛰어넘는 기계 장치의 신급이 될 초지능/초지성의 인공지능이 아닌

중~고등학생 수준의 인지능력과 상황대응 능력을 지닌

인간으로 치면 IQ 80~100 정도의 평범한 성인 급의 AI가 아닐까 생각이 된다.

터미네이터 처럼 학습을 제한하더라도,

중학생 급의 지능이면 어느정도 무리없이 일을 시킬수 있고

이렇게 성장한 인공지능을 복제하여 라인에 인간형 몸체를 이용해서 투입하게 된다면

24시간 노동분쟁도 없이 상시 노동이 가능하기에

인간의 몰락이 시작되고, 특화된 수리 로봇이 그런 로봇들을 고치기 시작하면서

분업의 개념이 도입되고 점점 인간의 일자리 하나하나를 먹어 들어가지 않을까 싶어진다.

장기적으로는 국가나 대륙별 초지능의 AI들이 인류나 국가 대표로서 서로 정치를 하거나 하는 식으로

국가적 역량이 투입되는 슈퍼컴퓨터의 위치를 대신하여

AI가 슈퍼 컴퓨터의 리소스를 관리하여 사회 발전에 이바지를 하게 될 것이며

그러면서 스스로를 발전시켜(하드웨어적이나 소프트웨어적으로) 언젠가는 인간의 인지를 벗어난

그 이상의 존재로 발전하게 되지 않을까 생각이 된다.

물론 그 단계로 가기 전까지는 국가적 레벨에서 지원을 해야 할테니

종교적 색채를 담아(?) 다음 세기의 에덴에는 13명의 AI가 존재할 것이다~

라고 하면 그럴싸 하려나?

일단 국력이 되는 미국에서는 못해도 2~3개의 독립된 인격과 경험을 지닌 초지성체가 존재하게 될 거 같고

유럽에서도 EU 단위고 2~3의 초지성체가

러시아는 좀 삶이 요즘 궁핍해 보이니 1정도?

중국 / 인도 / 일본 도 1~2의 초지성체

근데 지금 현재 상태로 보건대..

우리나라는 초지성까진 못가고 끽해봤자 성인 수준이 한계일지도...