Chris Choi's Blog

Archive for the ‘IT’ Category

NVIDIA Deep Learning Day 2017

with one comment

올 해 놓쳐서 아쉬운 주식 종목들이 여럿 있었습니다. 대표적인 종목을 하나씩 꼽아 보자면 한국은 삼성전자, 미국은 NVIDIA입니다. 그 만큼 그 기업들은 거침 없이 성장한 한 해였습니다. 특히 Machine Learning, Deep Learning의 성장세의 중심에는  NVIDIA가 있다고 해도 과언이 아닙니다. NVIDIA의 소식에 항상 귀를 기울이고 있어야 할 이유입니다.

NVIDIA의 최신 동향을 공유하는 ‘NVIDIA Deep Learning Day 2017’에 천 명을 훌쩍 넘는 개발자들과 Tech 업계 종사자들이 모였습니다. NVIDIA가 큰 주목을 받고 있는 이유를 충분히 이해할 수 있었습니다.

 

NVIDIA Deep Learning Day_Image 1.jpg

[Image 1]

 

[Video 1. ‘GTC 2017: I Am AI Opening in Keynote’ 출처: NVIDIA YouTube Channel]

 

각국을 순회하며 개최하고 있는 GTC 2017 GPU Technology Conference 에 사용되고 있는 Intro 영상입니다. 다양한 영역에서 NVIDIA가 펼치고 있는 활약이 집약되어 있습니다. 이 영상을 보고 있으니 영화 “Transcendence”의 한 장면이 떠올랐습니다. 몇 년 전만 해도 우리가 미처 상상하지 못했던 일들이 실현되고 있는 듯한 느낌이 강하게 들었습니다. 마치 신세계 같았습니다.

인상 깊었던 Shanker Trivedi SVP와 장병탁 교수의 강연 내용을 전해 드립니다.

 

Keynote, Shanker Trivedi (SVP of Enterprise Business)

PC, Mobile, Cloud를 거쳐 이제 AI의 시대가 왔습니다. 한 사람 당 한 대의 PC, 한 사람 당 여러 대의 모바일 기기를 거쳐 이제는 수 천 억 개, 수 조 개의 디바이스가 AI를 활용하게 될 것입니다.

AI 급성장에는 두 가지 변화가 있습니다. Deep Learning 자체는 꽤 오래된 것입니다. 그러나 과거에 데이터가 충분하지 않고 Computing power가 부족해 Algorithm을 효과적으로 사용하지 못했습니다. 이제는 데이터 급증과 Computing power의 성장으로 인해 Algorithm을 본격적으로 사용할 수 있게 되었습니다.

‘무어의 법칙’은 2-3년마다 CPU 성능이 100% 증가한다는 것입니다. 그러나 최근 10년을 보면 성장율이 한 자리 수로 줄었습니다. 이제는 GPU가 성능을 극적으로 상승시키고 있습니다. 5~10년 후면 전통적 CPU Architecture보다 몇 천 배 성능이 좋아질 것입니다. GPU는 CPU의 가속화를 방해하기는 커녕, CPU가 주어진 일을 더 잘 하게 하는 역할을 합니다. 초기에 그래픽 처리에 한정되었던 GPU가 범용적 목적으로 사용을 확대해 가고 있습니다. GPU 개발자 수도 5년 전보다 15배 증가했습니다. NVIDIA는 개발자를 위한 GPU Platform인 CUDA를 제공하고 있으며, 그 영향력이 커지고 있습니다.

GPU Core는 수학을 잘 합니다. 대부분의 수퍼 컴퓨터들은 GPU를 사용하고 있습니다. 기술의 민주화를 위해 합리적 비용으로 대학들이 GPU를 사용할 수 있도록 하고 있으며, 과학적 발견 속도가 빨라지는 데 기여하고 있습니다. ‘Detection of gravitational waves’와 ‘Cryogenic Electron Microscopy’로 2017년 노벨 물리학상과 화학상을 수상한 분들도 NVIDIA의 고객입니다.

 

NVIDIA Deep Learning Day_Image 2.jpg

[Image 2]

 

몬트리올 대학의 컴퓨터 과학자들이 2012년 ImageNet Competiton에서 GPU와 Deep Learning을 사용해 85%의 정확도를 달성했습니다. 1년만에 10%를 개선한다는 것은 기적과 같은 일이었습니다. 그 후 ImageNet Competition에서는 예외 없이 GPU를 사용하고 있습니다. Deep Learning  관련 논문 수는 3년 새 열 배 증가했습니다. 이미지, 동영상, 사운드, 보이스, 텍스트, 지도 등 여러 가지 데이터를 Input으로 사용하고 있기 때문에, 기존과는 전혀 다른 문제 해결법을 사용하고 있습니다.

그렇다면 얼마나 더 큰 Computing을 필요로 할까요? 2012년 ImageNet Competition에 사용된 AlexNet에 비해 새로운 Inception-v4는 350배 더 큰 Computing power를 필요로 합니다. CPU만으로 처리할 수 없는 수준이기 때문에 GPU가 필요합니다. 신경망 처리는 GPU가 훨씬 효과적입니다.

Tensorflow, theano, Caffe2 등 다양한 Machine Learning Framework가 존재합니다. NVIDIA의 AI Platform인 NVIDIA Inception에 2천 개가 넘는 Startup이 참여하고 있습니다. AWS의 P3는 NVIDIA의 Volta를 사용합니다. GPU가 이제 Cloud를 통해 제공되는 것입니다. 더불어 NVIDIA GPU Cloud를 통해 Multiple CPU 상에서 Tensorflow를 사용하는 등의 작업이 더욱 쉬워질 것입니다.

많은 데이터를 Input으로 이용해 신경망 Training을 하면서 심화 신경망 모델이 나오며, Inference도 추출할 수 있습니다. 센서와 모바일 기기, 로봇, 무인자동차 급증으로 인한 Inferencing의 폭발적 증가가 예상됩니다. 하드웨어만으로는 수요를 해결할 수 없습니다. 실시간 Inferencing을 더욱 빠르게 하기 위해 TensorRT가 있습니다. Training 결과를 TensorRT에 넣으면 Inference graph를 최적화 해 줍니다. 그 Graph를 Target device에 전달합니다. 데이터 센터 서버로 확대하면 전력과 비용도 엄청 절감할 수 있습니다.

화물 트럭, 택시, 비행기도 자율 주행을 하고 있습니다. RADAR, RIDAR, Camera, HD Map 등이 DRIVE AV 위에서 작동합니다. DRIVE WORKS SDK를 제공해 자율 주행차를 스스로 만들 수 있도록 합니다. 내년 초 공급 예정인 PEGASUS는 자동차 번호판 크기로, Level 5 주행 차량 협업에 활용될 것입니다.

 

[Video 2. ‘NVIDIA DRIVE Autonomous Vehicle Platform’ 출처: NVIDIA YouTube Channel]

 

Powering AI Robots with Deep Learning, 서울대학교 장병탁 교수

 

AlphaGo는 아직 반쪽인 AI입니다. 몸이 없는 마음은 반쪽입니다. ‘Embodied Mind’를 갖출 때 온전한 AI가 될 수 있습니다. 최근의 시도들을 볼 때 이제는 Embodied Mind를 점점 갖춰 가고 있습니다.

프로그램 기반으로 데이터 처리를 따라갈 수 없는 수준이 되었습니다. Deep Learning과 AI가 필수적입니다. 따라서 AI Robot은 하나의 신사업입니다. 사람처럼 생각하고 행동하는 인공 지능 연구는 외부 인식, 행동 제어, Interaction, Computing power 연구를 수반합니다.

기존의 Machine Learning은 Feature Extraction 등을 인간이 수행했습니다. 이제는 따로 분리하지 않고 입출력만 주면 기계가 알아서 수행합니다. 이것은 일종의 혁명입니다. Algorithm을 스스로 짜기에 가능한 일입니다. Computing power가 좋아졌고, Deep Learning 기술이 발전했음을 보여 주는 대목입니다. Facebook의 DeepFace는 C 코드로 구현할 수 없습니다.

대니얼 카너먼은 사고의 형태를 System 1과 System 2로 구분했습니다. 직관적, 감성적으로 빨리 생각하는 System 1이 의사 결정을 더 잘 할 때가 많다는 것입니다. 인공지능을 이러한 관점에서 살펴 보면 지금까지는 주로 System 2를 구현했습니다. System 1의 구현은 이제 시작입니다. AlphaGo가 큰 의미를 부여했습니다. 기본적으로는 System 2의 기술이지만, 그것만으로는 바둑 문제를 풀 수 없습니다. Machine Learning을 통해 System 1을 살짝 더한 것입니다.

뇌의 구조처럼 AI도 굉장한 수준의 병렬 처리가 필요합니다. GPU의 발전을 통해 가능해지기를 바랍니다.

 

인공지능과 의료의 만남, 그리고 공존, 서울 아산병원 김남국 교수

의료의 인공지능 개발은 굉장히 어렵습니다. 병원마다 의료 환경이 달라 표준화가 어렵기 때문입니다. 법적, 윤리적 제약과 수가 장벽 등도 어려움을 더하고 있습니다. 환자에게 실험하는 것은 의사만이 할 수 있는 일이라, 개발 사이클을 온전히 수행하기도 쉽지 않습니다.

다만 모멘텀은 존재합니다. 점점 더 오래 살고, 당뇨 환자가 급증하고 있습니다. 데이터는 넘쳐납니다. 병원들이 Big Data를 외치는 이유입니다. 하지만 대부분 비정형 데이터입니다. AI를 활용한 Big Data 분석이 필요합니다.

Google은 Google Tends를 기반으로 Flu Trends를 제공합니다. Facebook을 이용해 약물 중독 환자를 선별하는 시도도 행해지고 있습니다.

 

[Link 1. ‘Flu Trends, 데이터로 독감 따라잡기’]

 

병원 데이터의 상당 부분은 이미지입니다. 그 중에 가치 있는 데이터가 매우 많습니다. 의사들 역시 정확한 이미지 판별에 어려움을 겪을 때가 있습니다. 기계가 의사 평균 수준 이상으로 이미지를 판별할 수 있다면 전체적인 수준을 끌어올릴 수 있습니다. 속도 면에서는 기계가 훨씬 빠릅니다.

 

Eco System

발표를 들으면서 ‘Eco System’이라는 단어가 강하게 떠올랐습니다. Amazon, Facebook, Google을 넘어서는 거대 AI Eco System이 NVIDIA에 의해 형성되는 것은 아닐지 궁금해집니다. 기술적 Roadmap도 훌륭하지만, 여러 분야의 선두 업체들과의 협업이 굉장히 인상적이었습니다. NVIDIA와 손 잡지 않고는 AI 시대를 헤쳐나가기 어렵겠다는 생각이 들 정도였습니다. 2018년의 NVIDIA GTC도 기대가 됩니다.

Advertisements

Written by Chris Choi

December 16, 2017 at 11:52 am

낯선 인공지능과 살아가기

with 2 comments

AI에 관한 논의가 다양한 관점으로 다뤄지고 있습니다. 기술적 관점, 경제적 관점 등과 더불어 철학적 관점으로도 AI를 살펴보려는 시도가 있습니다. 한양대학교 철학과 이상욱 교수님의 강연을 통해 낯선 인공지능과 어떻게 공존해야 할 것인지 생각해 볼 수 있었습니다.

 

4 산업 혁명

영화 “The Imitation Game”. 경찰이 Alan Turing에게 생각하는 기계가 가능하냐고 물어봅니다. Turing은 물론 가능하지만, 인간과 똑같이 생각하지 않는다고 답합니다. 이 점을 강조하지 않으면 얘기치 않은 결과가 나올 수 있다는 메시지를 읽을 수 있습니다.

‘4차 산업 혁명’은 급격한 변화를 이끌게 될까요? 일부의 예측과는 달리 여러 이유로 완만한 변화가 될 가능성이 높습니다. 1차와 2차 산업 혁명은 역사적으로 잘 확립된 개념입니다. 반도체와 PC 등을 기반으로 하는 3차 산업 혁명은 역사적으로는 애매하나 경제학적으로는 의미가 있습니다. 이에 비해 Davos Forum의 Agenda로 등장했던 4차 산업 혁명은 동력이나 디지털 기술의 혁신과 연결이 잘 되지 않아 학술적 근거는 부족합니다. Klaus Schwab의 “The Fourth Industrial Revolution”을 보면 4차 산업 혁명의 긍정적, 부정적 영향 외에 불확실한 영향에 관한 언급이 너무 많습니다. 4차 산업 혁명의 근거가 부족함을 스스로 인정하는 것이 아닐까요? 오로지 기술만이 사회 파급 효과를 결정하는 것이 아닙니다. 제도, 사람들의 반응, 문화적 관습 등이 사실상 기술에 의한 변화를 결정하기 때문입니다. 4차 산업이 자동화의 연장선상일 것이라는 의견이 존재하는 이유입니다.

 

Performance without Awareness

기계는 기가 막힌 Performance를 낼 수 있습니다. 그러나 Awareness는 가지지 못합니다.

 

[Video 1. ‘Bach style chorale Emmy David Cope’]

 

AI가 하루만에 5천곡을 작곡합니다. 인공지능이 음악 천재라서 그런 걸까요? 인공지능은 계산은 하되, 작곡을 하지 않기에 가능한 일입니다. EMI Experiments in Musical Intelligence 가 만든 곡을 듣고 비평가들은 무언가가 부족하다고 비판했습니다. 그러나 한 Blind test는 놀라운 결과를 보여주었습니다. 바흐의 곡, EMI가 만든 곡, 인간 작곡가가 바흐 스타일로 만든 곡을 들은 사람들은 EMI가 만든 곡을 바흐의 곡으로 꼽았습니다. 심지어 영혼을 울리는 곡으로 평가했습니다.

우리는 기계의 한계를 두는 경향이 있습니다. 기계가 사람을 흉내내므로 영감이 필요한 영역은 계산만으로 할 수 업사 생각합니다. 그런데 위와 같은 일이 생기니 매우 난처해집니다. 네안데르탈인 이후로 유사한 종족의 경제를 받아본 적이 없었기 때문입니다.

 

[Video 2. ‘Robot Lives Matter’]

 

Boston Dynamics는 로봇의 균형감을 강조하기 위해 로봇을 발로 차는 동영상을 공개했습니다. 로봇 학대 논란이 일어나 동영상을 모두 삭제한 상태입니다. 로봇 학대를 막기 위한 단체도 생겨났습니다.

로봇에게는 마음의 상태도, 노예에 관한 관념도 없음을 우리는 잘 알고 있습니다. 그럼에도 불쌍하다는 느낌을 누르기는 어렵습니다. 인간에게는 공감과 상상이라는 내재된 기능이 있습니다. Boston Dynamics의 로봇들을 로봇이 아니라 동물 같이 여기기 때문에 학대라고 생각하는 것입니다. EU는 로봇 윤리 헌장을 준비하고 있습니다. 학대가 일상회되면 마치 게임과 같이 인간과 인간 간의 상호 작용에도 영향을 미칠 수 있다는 판단에서입니다. 적어도 눈에 띄는 학대는 발생하지 않도록 하기 위함입니다.

 

일자리의 상실

전문직 대체에 일정 한계는 존재할 것입니다. 인공지능 개발비는 결코 저렴하지 않습니다. 개발비를 회수 가능한 분야부터 개발이 진행될 것입니다. Goldman Sachs는 체득된 지식을 바탕으로 주식을 거래하는 트레이더의 수를 수 백 명에서 단 두 명으로 줄였습니다. 고연봉의 직원들이므로 AI 개발비는 충분히 상쇄되었을 것입니다. 가사 도우미는 구현이 쉽지 않습니다. 수건 접는 기계도 아직 10분 넘게 소요됩니다. 인간에게 어려운 일이 기계에게는 쉽고, 인간에게 쉬운 일이 기계에게는 어렵다는 모라벡의 역설 Moravec’s Paradox 입니다.

화물 연대가 강해서 자율 주행차 확산이 쉽지 않을 것입니다. 처방전은 의사만이 작성할 수 있습니다. 기술이 좋아져도 의사가 쉽게 대체되지 않을 것입니다. 사회 제도적 맥락에서 어떤 수준의 일자리 대체가 가능할지 고려할 필요가 있습니다.

 

특수 지능 vs. 일반 지능

인간을 전부 대체하는 지능이 등장하지는 않을 것입니다. 대시 인간의 능력을 뛰어넘는 특수 지능은 속속 등장할 것입니다. 특수 지능과의 상호 작용은 어느 수준까지가 최적일까요? 판단이 쉽지는 않습니다.

초기 자연 언어 처리를 개발할 때 언어학자들과의 Coworking을 통해 인간이 문법적으로 언어를 배우는 방법을 분석했습니다. 지금은 문법을 무시하고 Deep Learning을 수행합니다. 인간의 방식을 규명하기가 매우 어렵습니다. 게다가 인간이 모델이 될 필요는 없습니다. 인간의 독특한 특징이 있지만 그것이 항상 보편적 특징인 것은 아닙니다.

 

공존

이상욱 교수님의 강연을 들으면서 ‘공존’이라는 단어가 떠올랐습니다. 가끔은 동료 같이, 가끔은 말동무 같이, 가끔은 애완 동물 같이 그 모습과 역할은 다르겠지만, 인공지능이 진화할수록 공존하며 살아가는 것은 불가피하지 않을까 생각합니다. 여전히 막연한 두려움이 느껴지지만, 어느 새 PC와 스마트폰이 우리 일상이 된 것처럼, 인공지능도 우리 삶 속에서 적절한 위치를 찾아갈 것이라 기대해 봅니다.

Written by Chris Choi

October 30, 2017 at 11:48 pm

Posted in IT

RPA

leave a comment »

Written by Chris Choi

October 3, 2017 at 1:47 pm

Posted in IT

Tagged with ,

iPhone 수리

leave a comment »

손재주 좋은 동료 덕분에 iPhone 5의 액정과 iPhone 6의 배터리를 저렴한 값에 수리했다. 액정은 18,000원, 배터리는 21,000원.

우선 Apple. 액정 교체에 20여 만원을 받고, 심지어 일주일 가량 소요된다. 이 점은 사실상 ‘빵점’이다.

사설 수리 업체. 업체마다 차이가 있겠지만, ‘개거품’이 끼어 있다.

그 사이에서 고객은 호구가 된다.

Written by Chris Choi

May 13, 2017 at 9:03 pm

Posted in IT

Data

leave a comment »

Written by Chris Choi

February 21, 2017 at 2:20 pm

Posted in IT

Tagged with ,

Googling

leave a comment »

Googling, Ubering, Xiaomization. 대단

Samsunging, Hyundaization…? Platform의 문제.

GMT

막상 찾으려 하면 쉽지 않음

키워드가 중요.

GMT “Table” / “Spreadsheet” (영어)

15초 > OO분

도움 주는 기쁨. Lessons Learned

 

GMT Table pdf

GMT Table spreadsheet .xls

자료 수집

Blue Bottle Coffee nytimes.com

Blue Bottle Coffee wsj.com

Blue Bottle Coffee Quality

Blue Bottle Coffee James Freeman Hayes Valley

Chrome

Login 하면 History 관리

열었던 페이지

Written by Chris Choi

December 8, 2016 at 9:22 am

Posted in IT

휴대폰 이름

leave a comment »

토요일 오후, 미용실에서 여유롭게 머리를 자르고 있었다. 탁자 위에 올려 둔 휴대폰이 울렸다. 아내였다. 미용실 언니가 휴대폰을 건네 주셨다.

 

%ed%9c%b4%eb%8c%80%ed%8f%b0-%ec%9d%b4%eb%a6%84_image-1

[Image 1]

 

“실례지만 하나 여쭤 봐도 될까요?”

“네!”

“왜 아내 분 이름을 애칭이나 다른 이름으로 저장하시지 않았는지 궁금해서요.”

 

맞다. 내 휴대폰에 저장되어 있는 이름은 거의 대부분 이름 석 자로 저장되어 있다. 심지어 엄마와 아버지도 그렇다. 애칭이란 없다. 예외가 있다면 이름이 (성을 포함해) 두 자 거나 네 자인 경우다. 그리고 외국인 친구들도 있다. 왜 그럴까?

결코 일반화 할 수 없지만, 첫 번째 이유는 경상도 사나이의 무뚝뚝함이 아닐까 싶다. 애칭은 닭살이 돋는다. 아내는 물 한 잔만 가져다 줘도 ‘고마워요’ 하지만, 나는 고맙다는 말도, 괜찮다는 말도 잘 하지 못한다.

두 번째 이유는 표준화다. Coding convention, Naming convention과 같이 휴대폰에 이름을 저장할 때 한글 이름을 입력하는 것이 나에게 표준이 된 듯 하다.

이런 생각을 하는 것이 우스꽝스러울 수도 있다. 하지만 또 하나 드는 생각은, 휴대폰에 어떻게 이름을 저장하는지도 분석해 보면 재미있을 것 같다. 마지막으로, 과감한 질문을 한 미용실 언니의 호기심 역시 대단하다.

Written by Chris Choi

October 3, 2016 at 11:30 pm

Posted in IT