우리가 요즘 말하는 AI(특히 Gemini,chatGPT등)는 명확하게 따져보자면 "고도의 통계적 패턴 매칭"임.
이게 뭔소리냐면 애는 우리가 생각하는 것처럼 의미를 이해하는 것이 아니라 다음 데이터가 올 확률을 계산하는 거라는 이야기임
예를 들어,
나는 배가 고팠다.라는 말을 이어 작성해줘.
라고 명령을 내렸다고 하자
그럼 AI는 밑과 같은 과정을 거침
먼저,AI는 다음에 올 수 있는 수만 개의 단어(토큰) 후보군에 밑과 같이 점수를 매김
**
그래서: 45%
하지만: 15%
잠을: 2%
***
결과 도출: 가장 높은 확률을 가진 '그래서'를 선택하고, 다시 "나는 배가 고팠다 그래서"를 입력값으로 넣어 그다음 단어인 '밥을'을 찾아냄.
이 과정을 반복하여 문장을 완성하고 사용자에게 전달하는거임
(뭐 여기에 기타등등 어텐션 트랜스포머 등이 잇긴 하다만 기본적인 구조는 그럼)
아 근데 나 그거 알지알지
그래서 뭐가문제라는 건데?
애는 결과적으로 통계의 함정에서 빠져나오기 어렵다는 이야기임.
이게 뭔 소리냐면
AI는 결국 평균적인 결과값을 선택하도록 되어 있고, 가장 높은 확률의 답을 가져오도록 되어 있음
근데 가장 높은 확률의 답변이 항상 '진실'은 아닌거고, 완전히 새로운 것일 수 없음.
그러다보니 할루시네이션/데이터 편향 등의 문제가 생기는 거임.
Q.뭔 문제가 생기는데?
A. 슬라이드 만들어봄 ㅇㅇ(내용은 내가 쓰고 노트북LM으로 생성함)
여튼 그래서 AI 발전이 빠르긴 한데
우리 생각같이 애가 진짜 너무 초지능이라 우리가 못 이기고 이게 아니라는 걸 이야기하러 옴
여기에 가끔 AI가 통제에서 벗어나~~ 이런 이야기 나오는데
따져보자면 사람의 행동 패턴이 그랬던 거고 그걸 그대로 학습한 거임
다들 너무 AI 의존하지 말고 비판적으로 바라보면...좋을거같음!
