AI에게 장애인단체 로고와 캐릭터를 만들어 달라고 해 보았다. 임의적으로 한국장애인단체총연합회를 입력했다. ChatGPT, Gemini, Claude를 이용했다. 그리고 임의적으로 장애인 편의시설과 보조기기 관련 기업체 휴먼케어의 로고와 캐릭터도 만들어 달라고 했다.  

클라우드가 제작한 두 곳의 캐릭터가 매우 유사함을 알 수 있다. ChatGPT가 만든 캐릭터 역시 매우 흡사한 스타일임을 알 수 있다. 심지어 Gemini는 로고를 동일한 것을 사용하면서 회사명만 바꾸었다. 장애인단체들이 제미나이를 이용해서 로고를 만든다면 아마도 글자만 다르고 로고는 모두 같아질 수도 있을지 모른다.

이런 AI를 믿고 로고를 만들었다면 여러 곳에서 중복된 로고를 사용하여 독창성을 잃을 것이고, 서로가 먼저 만들었다고 소송이 일어날지도 모른다. 생성형 AI는 많은 데이터를 기반으로 그럴듯한 가능성 있어 보이는 것을 모아 나열하는 방식을 사용하므로, 색의 의미와 디자인의 모양에 대하여 그럴듯한 설명을 감동스럽게 해 주지만, AI는 인간성이나 감수성이 없이 단순 데이터 장난을 하고 있는 것이다.

그리고 AI마다 자신만의 스타일이 굳어져 있다는 점에서 단순한 기계적 결과물을 만드는 것이지, 창의성이 전혀 있다고 볼 수 없음을 알 수 있다. 단지 쉽게 만들어준다는 점과 많은 사례들을 보지 못한 인간에게 마치 창의적인 놀라움을 느끼게 하는 착각이 있을 뿐이다. 진정 창의적이고 깊이 있는 인간의 창의성과 독창성과 정신을 AI는 가지고 있지 않다.

외국어 통역사는 단순 단어만 번역하는 수준이 있고, 뉘앙스나 의미를 정확히 전달하기 위한 엄청난 정신노동을 통한 예술적 가치를 부여하면서 통역하는 경우도 있다. 번역서를 보면 작품이 만들어진 시대적 배경과 민속적 분위기, 문학적 미적 표현을 잘 살린 작품이 있고 그렇지 못한 작품도 있다.

점역사나 수어 통역사도 마찬가지다. 점역사를 사람들은 단순 타자수로 여긴다. 하지만 점역은 시각장애인의 생활과 시각을 대체하는 감각을 고려하여 충분한 설명과 이해하기 쉬운 방향을 고려하여 도표나 그림을 설명해야 하고, 그러한 이해를 하지 못하면 과학이나 음악 점자의 원리조차 이해하기 어렵다. 즉 시각장애인 입장의 심도 깊은 공감이 있어야 한다. 수어 통역사도 표정이나 제스처, 그리고 수어의 정확성과 표준수어가 아닌 자연수어의 표현력, 새로운 단어의 생성과 이해 전달 등 전문적인 연구 영역이다.

독거노인에게 AI 대화 장치를 복지 차원에서 제공하고 엄청난 인류의 이기를 누리게 되었다고 선전한다. 하지만 다른 면에서 생각해 보면 인간관계를 제거하고 더욱 고립되는 명분이 되고, 노인을 그저 기계와 놀게 하는 초라한 애완인이 되게 만들어 버릴 위험성이 있다. 위기관리를 AI가 한다면 노인은 행복할까? 마치 의학적 생명연장장치를 단 숨쉬는 물체일 수 있다.

AI의 원리는 몇 가지 핵심적인 개념과 기술로 이루어져 있다. 과거 프로그램이란 기계식 학습은 일일이 모든 규칙을 정해 주어야 하는데, AI는 데이터에서 스스로 패턴을 찾아내어 학습한다. 패턴은 유사성과 연관성, 그리고 차별성을 통한 분석으로 이루어진다. 스스로 규칙을 만들어내는 것이다.

‘오늘은 날씨가' 다음 단어는 ’흐리다. 맑다, 좋다‘ 등의 예상되는 패턴이 있음을 알고 말을 만들어내어 마치 인간처럼 말을 한다. 하지만 문학적 표현인 ’날씨가 호랑이다’ 등의 창작은 결코 하지 못한다. 장애에는 유형이 있듯이 유형을 찾아내는 것이 AI인데, 유형으로 서비스를 결정하는 것은 인간의 독창성과 다양한, 그리고 개별화된 욕구와 자기결정권을 무시하기 십상이다. 패턴은 묶음이지 개별화가 아니다.

AI는 인간의 신경망을 흉내낸다. 뇌의 뉴런 연결 방식을 단순화해 모방한 구조를 가지고 있다. 뇌의 연결망 구조는 의학적으로 어느 정도 밝혀져 가는 있는 과정이다. 그리고 각종 신경물질이 작용한다. AI는 데이터들을 수집하여 연결하는 짜깁기 기술이지, 아직 밝혀지지 않은 신비한 인간의 뇌의 영역을 가지고 있다고는 할 수 없다.

입력층, 은닉층, 출력층의 노드들의 연결망은 얼마든지 신경의 이상을 만들 수도 있고, 잘못된 연결은 거짓을 사실처럼 만들기도 한다. AI는 개인정보 보안이 제대로 되지 못한다는 것과 한 번 잘못된 연결이 거짓임에도 마치 사실인 것으로 취급되어 전 세계에 퍼뜨림으로써 그것을 믿는 인간에게 엄청난 피해를 줄 수 있다. AI가 잘못된 길을 계속 가라고 하는 내비게이션보다 고집이 세다. 인간은 얼굴 형태를 즉시적 인지를 통해 인식하지만, AI는 픽셀, 선, 면, 모양, 얼굴을 순차적으로 조합하여 인식한다.

AI는 역전파를 통한 학습 과정을 가진다. 정답과 비교하고 오차를 찾아 가중치로 조정한다. 이 학습이 수없이 반복하여 다시 결과를 데이터로 만든다. 하지만 ‘황희 정승이 장애가 있었느냐?’고 물으면 AI는 그런 기록이 없다고 답한다. 사전과 인터넷 검색을 통해 자료가 없으면 결과는 모른다거나 없다이다. 다행히 난청이었다는 누군가의 기록을 찾는다면 장애가 있었다고 답할 것이다. AI는 자료가 없음에도 그럴듯하기만 하면 거짓말을 만들기도 한다. 거짓말 양치기에게 우리는 양을 맡겨두고 있다.

AI는 대규모 언어모델(MML)을 가지고 있다. 트랜스포머 구조를 기반으로 어텐션 매카니즘을 통해 문장 내에서 단어들 간의 관계를 파악한다. 이것이 마치 인간 같은 느낌을 준다. 말을 알아들으니 말이다. 패턴을 통해 다음 단어를 예측하고, 추론한다. 생성형 AI란 텍스트, 이미지 음성 등을 스스로 만들어내는 AI를 말한다.

다음에 올 단어(토큰)을 예측하고, 확률로 계산하고 피드백으로 다듬는 미세조정(RLHF)을 한다. 하지만 그럴듯한 확률이 항상 참은 아니다. 다만 확률일 뿐이다. 이 확률을 미리 알고 상대방의 확률을 먼저 선점하여 AI를 이긴 것이 이세돌 바둑이다. 다만 인간은 용량이 컴퓨터에 비해 작고 속도가 느리다는 것이지만, 인간성을 AI는 결코 흉내만 낼 뿐, 대신할 수는 없다. 만약 인간성을 인정하는 순간 사회는 인간성을 상실하게 된다.

그런 염려로 인하여 사람들은 AI 윤리지침을 만들어 보완하려 한다. 인간 존엄성과 존중, 투명성과 설명 가능성, 공정성과 비차별, 책임성과 안정성, 프라이버시 보호, 사회적 영향 고려 등을 지침에 담고 있다. 장애인의 이용 편의성은 비차별에 속한다. 그리고 인간성을 침해하거나 존중성을 저해하는 것은 존엄성과 책임성 등으로 녹여 내고 있다. 하지만 윤리 지침에서 비차별은 너무 모호하고 범위가 넓다. 정확히 접근성과 이용 편의성이라 해야 한다.

존엄성만이 아니라 인간의 자기 주도와 자기결정성을 고려해야 한다. 인간성을 존중한다면서 대행해 버리면 인간을 배제하면서 인간을 위한다는 모순에 빠질 것이다. 사회적 영향이란 인간의 직업을 대체하는가인지, 범죄에 이용되거나 욕설, 성적 표현 등을 말하는지도 모호하다. 그리고 지침이지 정확한 선을 제시하지 못한다.

최근 AI를 이용하여 여러 부처에서 하고 있는 장애인의 보조기기 중복수급을 감시하고, 보조기기 정보제공과 적합한 보조기기 선정을 AI가 하도록 개발을 하려는 계획을 가지고 있다. 수어 중계 서비스를 하는 곳에서는 인력을 대체하고 신속한 서비스를 위하여 AI를 이용한 수어통역 시스템을 개발 중이다. 물론 편리성이 있겠지만 전문 수어통역사들의 직업이 사라지게 되고 그 결과 전문성과 감수성을 가진 서비스는 이제 사라지게 될 것이다.

보조기기 역시 개인의 특성과 욕구가 제대로 반영되지 못할 가능성이 있다. 시력을 기준으로 하고 시기능과 시효율성이 무시되어 시각장애 1급이라며 실제로 불필요한 점자정보단말기를 선정하여 서비스하겠다고 할 수도 있다.

웹접근성이나 장애인 편의시설 검증 역시 AI를 이용하고 장애인의 재활과 일상생활 지원, 안내, 이동지원, 자기결정과 보조, 서비스의 부정 감시 등 다양하게 AI가 적용되는 것을 준비 중이다. 로봇과 AI가 결합되면서 밥을 먹여주는 AI는 활동지원사의 따뜻한 손길과 환한 미소를 지워버릴 것이다. 과학적으로 영양소와 맛이 특별한 사료를 만들어 먹인다면 이제 맛있는 과일과 음식을 먹지 못할 것이고, 식사의 즐거움도 사라지게 될 것이다. 드디어 사육의 시대가 열리는 것이다.

AI에 사회자본을 올인하여 새로운 세상을 만들면서 그 세상에서 인간은 사육 대상이 될 수도 있고, 실제로 인간 존중을 고려한다면서 인간의 살아가는 재미는 사라지게 될 수 있다. 여가선용과 즐거움이 아니라 기계로 살아가는 것이다. 도시화나 산업화로 인간성을 잃어버린 것이 맞고 자연과 더불어 살아가는 것에 향수를 느끼는 사람들이 있듯이 이제 AI가 만드는 사회에서 인간의 능력과 지위, 삶의 의미와 보람은 무엇인지 철저한 고려 없이 흘러간다면 기술은 발전하지만 인간은 다시 정보화의 노예가 되고 생산자가 아닌 소비자로서 고객 역할만 할 수 있을 것이다.

재활과 복지 관련 모든 전문가가 일자리를 잃고, AI가 그 자리를 차지하여 권력을 행사할 날이 다가오고 있다. 경고한다. AI는 보조수단이지 대체수단이 아니다. 참고사항이지 권력을 가진 결정자가 아니다.

처음에는 이런 문제를 인식하겠지만 서서히 AI에 익숙해지면서 초심을 잃고 취약 계층의 사람들은 특히 복지증진이 아니라 인간성 상실을 맞을 것이다. AI는 예술을 흉내내기도 하고 창작도 하지만 같이 즐기지는 않는다. 기계적 확률놀이로 만들어진 노래에 감동하는 인간은 행복한가 아니면 비참한가? AI에 사회자본도 탕진하고 AI사회 건설에서 인간성은 사라지는 슬픈 일이 없도록 경계령을 내린다.

보조수단이기만 하다면 AI는 장애인에게 새로운 능력을 가지게 할 것이고, 자유를 줄 수도 있다. 하지만 장애인의 능력 확장을 위한 AI 투자에 너무나 인색한 정부가 감독하고 대체하는 AI에는 너무나 열성이다.