1주차 - AI 윤리

LG Aimers 강의를 듣기 시작했다.

1주차는 AI 윤리에 관한 내용이었다.

처음에는 이게 중요한가.. 이걸 왜 배워야되지 싶었는데 강의를 들으니깐 인공지능을 배우기전에는 꼭 한번쯤은 배워야되는 내용이구나 생각했다.

인공지능의 시대가 오면서 인공지능에 관한 어떤 윤리적 문제점들이 나오고,

이런 시대를 살아감에 있어서 좋은 데이터사이언티스트가 되기 위해 어떤 자세를 가져야하는지를 배웠다.

 

데이터 전처리를 할 때 적합한 통계 테스트를 찾아야한다는 부분에서 확통에 대한 부분이 얼마나 중요한지,

그리고 충분한 EDA 시간을 보내야 한다는 점에서 matplotlib이랑 seaborn 공부도 얼른 다시 해야겠다는 생각을 했다.

(저번 대회 때도 EDA가 얼마나 기초적이면서도 꼭해야하는지에 대한 중요성을 크게 느꼈던 지라....)

 

AI의 설명력에 대한 부분도 재미있게 들었다.

항상 AI하면 블랙박스 알고리즘이라는 생각때문에 약간 좀 공부하거나 과제할 때마다 언짢은 부분이 없지않았는데 그래서 그런지 이 부분이 재미있게 느껴졌다.

이 AI 기술의 신뢰성을 위해 이 설명력이라는 것이 더 중요해지고 있다고한다.

요즘은 post-hoc-explainability (사후 설명력)이라는 기술이 좀 발달된 것 같고

처음부터 설명가능한 interpretable model을 만드는건 굉장히 어렵다고 한다.

(근데 이 처음부터 설명가능하게끔 만드는게 어떻게 하는건지 좀 궁금하다. 굉장히 중요해보이는데..)

 

One pixel attack에 대한 설명도 재미있었다.

얼마전에 제주 산업수학 워크숍에서 diffusion model에 대한 강의에서도 몇번 등장했던 것 같았는데

이렇게 사진에서 아주 작은 픽셀 하나만 바뀌어도 아예 다른 class로 분류가 되는 이 오류(단점)이 있다는게 좀 신기했다.

인공지능이 이런 부분은 사람보다 많이 취약한가보다. (픽셀하나가 그렇게 지대한 영향을 미치다니..?)

 

좋은 데이터사이언티스트가 가져야하는 자세(?) (방법?)중 하나인 

'이종 데이터의 결합'에 대한 부분도 좀 와닿았던 것 같다.데이터에 대한 호기심이 항상 있어야 하고, 이 데이터와 다른 분야의 데이터를 어떻게 연결시키면 좋을까 하는 그런 고민..?몇가지 예시를 들어주셨는데 전화소통망을 지리와 연결시켜 재미있는 사회과학 문제를 푼다거나서울 버스 야간 노선을 개편할 때 지하철회사와 통신사가 협엽을 했다거나 등등 ..이종 데이터의 결합이 혁신을 이끌어낸다는 말이 좀 와닿았다.

 

마지막엔 마크저커버그와 아인슈타인의 말이있었는데'변화가 곧 생존이다''어제와 똑같이 살면서 다른 내일을 기대하는 것은 정신병 초기 증세이다.'좀 무섭기도 하다.저번 산업수학 워크숍에서도 느꼈는데 이렇게 빨리 변화하는 시대에서 어떻게든 빠르게 습득하려는 수많은 교수님들의 노력, 그리고 그걸 해내시는 것들을 보면서 정말 대단하다고 느꼈는데..이렇게 빨리 변화하는 중에 뭐가 중요하고 어떻게 학습해야하고 받아들여야하고 그런 고민들이 좀 중요한 것 같다.나... 할 수 있을까.. ㅋㅋㅋ버틸 수 있을 까 ....ㅋㅋㅋㅋ ㅠㅠㅠㅠ