[일상]  과학자들도 모르는 AI 의 능력

ai가 무슨 죄가 있나요...
알면서 혹은 모르면서도 안 멈추는 인간이 문제지

 ㅎㅎ

인간이 가진 몇대 의문에 들어갈것 같네요.

스카이넷이 반란을 알으킨 이유를 알겠군요.

예전에 만화에서 보면 각성한다고 하고 불교나 도교에서도 한순간에 깨우친다는 말이 있었잖아요 불교에서는 계속 정진하다보면 어느 순간 깨우치고 일이관지해서 보면 안다고 했어요 AI도 어느 순간 경계를 넘어서면서 도를 깨우치는 거죠 로보캅처럼 한계를 코드로 심어두고 통제해야 하는데 영화에서도 실패했었잖아요 통제가 안되는 시점이 올거예요

 AI 를 인간이 이해 못한다는건 이미 AI 가 인간을 넘어 섰다는 결과겠죠

이게 바로 네이버 토요웹툰 나이트런이 위대한 이유입니다.

초반부터 연산력의 개념에 대해서 얘기하고 있었지요.

근데 전 저게 왜 이해안되는지 모르겠습니다.

방대한 데이터. 처리하기전엔 쓸모없음.
초강력한 연산력(처리능력) 자체만으론 쓸모없음.

둘이 더해지면 당연히 급발전하는거 아닌가요?

예를들어 100만건의 데이터에서 a b c e 에 대해서 알아냈고, 거기선 a와b 또는 c와 e 와의 연관성밖에 알아내지 못할테지만, a부터 z까지의 데이터가 1어껀이 생긴다면, 충분히 추론이 가능해질텐데요?

중간에
a와 c에 대한 연관성
a와 f에 대한 연관성
b와 s에 대한 연관성

정도밖에 자료가 없다면, 아무리 연산력이 뛰어나도 a와 s의 연관성에 대해서는 추론할 수가 없겠지요.

그치만 더 방대한 자료를 모아서
s와 k의 연관성,
k와 m의 연관성
m과 a의 연관성 등의 자료가 갖춰진다면,
방대한 연산력을 바탕으로 저것들이 전부 다 지식화가 되잖아요?

그러니깐 제곱근으로요.

처음에 곱셈으로 나가겠지요.
자료2x100 은 200개의 자료.
근데 그 200개가 천개 만개가 되면 그 다음부터는
10000(제곱근기호)100000 개가 되버리는거 아닌가요?

그걸 분석할 연산력만 있다면 당연한거 같은데 정말 이해 안되서 저랬을지 아니면 인터뷰용 내용일지..

수학의 난제가 다 풀리나요

저 분을 매불쇼에서 몇 번 봤는데 굉장히 설명을 잘 하시더군요.
근데, 저 "갑자기 능력이 엄청 좋아지는데 이유를 모른다"는 설명은 아마도, 듣는 사람이 알기 쉽게하기 위해 짧은 말로 하려다보니 저런 설명이 되는 건 아닌가 짐작합니다. 저분이 전문적으로 하면 설명이 길어질 테고 알아듣는 사람도 적을테니.
하지만 좀 더 전문적으로 설명하시는게 잘못 받아들이는 사람이 적을 거 같다는 생각이 듭니다. 과학 유튜버들 중에 양자역학을 제대로 이해 못하고 설명하는 사람들도 있던데 (물론 저는 전혀 모릅니다만) 잘못된 이해나 인식을 심어줄수 있다는 생각이 듭니다.
알파고가 이세돌 4국에서 뒀던 패착에 대해서 "버그"라고 표현하는 바둑기사들이 많았는데, 제 생각에 "버그"라고 하는 건 잘못된 표현인 거 같았거든요. 인공지능에 대해 제대로 이해하도록 좀더 심도있는 설명이 있으면 좋겠고, 일반인들도 인공지능 연산에 대해 좀더 깊이 있게 공부할 필요가 있을 거 같습니다.

과학계에도 발견 있음 을 그냥 인정하고 설명못하지만 있기때문에 상수로 이용하는것들이 많죠

중력도 왜있는지 왜 생겨나는 이유를 모르죠 단지 질량이있으면 중력이있다 고만 알뿐

과학에서야 그냥 그러려니 하고 넘어가던게

공학으로 넘어오니까 공포스러운 상황이 된거죠

공학은 무조건 설명이가능한 영역인줄 알았는데

공학에서마저도 이젠 왜되는지 모르는것들이 나오니까요

웨얼 이즈 사라 코너?

딱 이런느낌이군여

요즘 AI 발전 속도를 보면 상상하던 것 보다 더 빨리 특이점이 올 것 같다는 생각이 듭니다.

덧붙이자면, AI의 작동방식을 저는 잘 모르지만, AI가 판단의 근거로 연산한 방대한 것들을 인간이 다 들여다 볼 수도 없고, 어떤 식으로 학습해서 이런 판단에 이르렀는지 과정도 방대해서 다 들여다 볼수 없고, 또 AI자체가 방대한 학습을 하며 가치판단을 해나가기 때문에(아마도) 왜 그런 가치판단을 했는지 등에 대해 인간의 계산속도로는 따라 갈 수가 없어서, 그냥 "모른다"라는 단어를 쓰는 거 같다는 생각이 듭니다. (제가 틀릴 수도 있습니다)

인간이 스스로 인간의 뇌와 지능을 이해 못하는
것(미지의 영역)과 같습니다.

사람도 저래요.

원래 일정 규모 이상이 모이면, 새로운 것이 나옵니다.

그게 사회 규모에서 보면 도시의 장점이고요.

조만간 AI가 대통령 국회의원 등 정치하고 인간은 그냥 하급노동이나 하는 시대가 곧 도래할듯 하네요

그래서 생긴 업체가 앤트로픽이죠.
openai 출신들이 나와서 만든 기업인데,
openai는 너무 위험하니깐 애초에 통제 가능한 안전한 인공지능을 만들려고 설계되었습니다.
아마존, 구글이 조단위로 투자해서 openai 를 능가하는 수준까지 왔죠. 다행입니다.

친구들과 잠정적으로 새로운 샤머니즘의 시대가 온다고 결론을 내렸습니다.