생성형 인공지능(생성AI)에 대한 메시지
게재일:2023년 5월 11일(목)


학생 여러분께
Musashino art University 총장


현재 ChatGPT를 비롯한 생성형 인공지능(생성 AI)에 대한 논의가 활발히 진행되고 있습니다. 그리고 앞으로 점점 더 기술이 발전하고 사회에도 깊고 넓게 침투할 것으로 예상됩니다.
미술대학으로서 더 나은 '배움'을 얻을 수 있도록 이러한 신기술을 유연하게 활용하고, 우려되는 측면도 충분히 고려하여 제작과 연구에 성실하게 임해 주기를 기대합니다. 이 메시지에서는 아래 6가지 사항을 중심으로 생성 AI를 둘러싼 현황과 과제에 대한 대학으로서의 견해를 기술합니다.

친숙한 도구가 된 생성 AI를 먼저 눈으로 직접 확인해보자.
생성 AI의 문제점과 가능성에 대해 더 깊이 생각해 보자.
개인 정보나 기밀 정보, 또는 악의적인 내용을 입력하는 것은 절대 금물입니다.
보고서나 논문에 생성 AI의 답변을 그대로 사용하여 제출하는 것을 금지합니다.
생성 AI를 인용할 때는 출처를 명시해야 합니다.
생성 AI의 답변을 그대로 '자신의 작품(자작)으로 제출하는 것을 금지합니다.


-----------------------

서문
현재 화두가 되고 있는 생성형 인공지능(생성 AI)은 인터넷 등에 있는 정보를 대량으로 수집하고 학습하여 축적하고, 이를 바탕으로 대화 형식으로 질문에 답해줍니다. 그것은 단순히 정답이나 오답 같은 것이 아니라, 가능성을 보여주기도 하고, 위로해 주기도 하고, 또 대화하는 동안 생성AI 자체가 성장하기도 하는 등 마치 사람과 대화하는 것 같은 착각을 불러일으키는 구조로 되어 있습니다.
생성 AI의 기능과 개념의 진화는 아직 진행 중이며, 다양한 아이디어에서 다양한 분야로의 적용이 현재도 엄청난 속도와 기세로 진행되고 있다.

대학은 '배움'의 장입니다. 수업인 강의, 실습, 실습, 그리고 자신의 제작 및 연구 활동까지 모든 면에서 '배움'이 중요합니다. 새로운 기술인 생성 AI를 이 '배움'에 어떻게 접목시킬 것인가. 크리에이티브에 대해 생각하고 제작・연구하는 것을 목적으로 하는 무사시노미술대학의 학생과 교직원이 생성 AI에 대한 대응 방법을 스스로 고민해야 할 시점에 와 있습니다.

그래서 여기서는 생성 AI를 둘러싼 현황과 과제에 대해 대학으로서의 현재 견해를 기술합니다.

-----------------

직접 눈으로 확인하다
생성 AI는 사회적으로 새로운 분야입니다. 그리고 그 가능성의 크기 때문에 언론에서도 자주 다루어지고 있습니다. 하지만 자주 다뤄지는 만큼 과장되거나 잘못된 정보도 많이 있습니다. 학생 여러분은 이런 기술을 적극적으로 사용하고 싶은 사람, 거리를 두고 싶은 사람 등 다양하겠지만, 우선은 제작자, 연구자의 입장에서 새로운 기술인 이 생성 AI를 직접 체험해보고 자신의 눈으로 확인해보길 권합니다.

실제로 만져보면 알겠지만, 잘못된 답변도 굉장히 많이 나옵니다. 특히 인물명 등 고유명사에 관한 것 등 정답과 오답이 분명한 부분에서 오답이 많이 나옵니다. 즉, 현재의 생성 AI는 기능적으로 아직 부족한 점이 많다는 것을 알 수 있습니다.
즉, 인공지능이 내놓은 답이 완벽하다고 생각해서는 안 된다는 것이다. 이는 예전에 신문과 같은 종이 매체, 그리고 인터넷 정보 등 세상에 많이 나와 있고 모두가 알고 있는 정보라고 해서 무조건 옳은 것은 아니라는 인식이 생성 AI에서도 마찬가지라는 것을 의미합니다.

----------------
현황 파악
ChatGPT가 세상에 인식되기 시작한 2023년3월 정도 단계의 대학이나 기업 등은 생성 AI를 '위협'으로 인식하는 곳이 많았고, 이탈리아나 미국 등 해외에서도 '금지' 조치를 취한 곳이 많았기 때문에 단순히 금지하는 방향을 내세우는 곳도 있었습니다. 하지만 그로부터 몇 주 만에 여러 가지 인식이 바뀌고 있습니다.

최근 한 달 사이에 일본 국회에서의 국회 답변이나 기업의 콜센터 등에 생성 AI를 도입하는 방침이 발표되기도 하고, 개발 측에서도 예를 들어 일론 머스크가 2023년 3월에 고성능 AI 시스템 개발에 반대하는 오픈 레터에 서명했다는 소식이 전해진 지 한 달 후 에 그 마스크 씨 자신이 ChatGPT에 대항하는 AI 언어 모델을 출시한다는 소식이 전해지기도 했습니다. 생성 AI를 둘러싼 환경은 몇 주 단위로 변화하고 있다. 세상을 변화시킬 수 있는 생성 AI에 관한 사항이 이렇게 역동적으로 변화하고 있는 이 상황을 매일 주시할 것을 권한다.

또한 ChatGPT는 현재 독립적인 사용자 인터페이스로 구성되어 있지만, 예를 들어 검색 엔진에 인공지능 기능을 내장하는 구조가 등장하거나 ChatGPT는 API라는 프로그래밍 키트를 공개하고 있습니다. 즉, 앞으로는 눈에 보이는 형태의 인공지능뿐만 아니라 모든 것에 인공지능이 접목될 것으로 예측됩니다. 즉, 단순히 ChatGPT의 사용을 금지한다고 해서 생성 AI의 사용을 금지하는 것은 아니며, 사용자 스스로가 의식하지 못하는 곳에서 생성 AI를 활용하는 장면이 늘어날 것이다.

---------------------
개념적 이해와 법 정비에 대해 생각해보자
생성 AI는 너무 빠른 속도로 발전하고 있기 때문에 우선 사람들의 생성 AI에 대한 이해가 따라잡지 못하고 있다. 위와 같이 몇 주 단위로 세계 범위의 수준에서 생성 AI에 대한 인식과 생각과 태도가 바뀝니다. 그로 인해 법제도도 따라잡지 못하고 있습니다.

미술대학에서는 저작권이 큰 문제가 될 것입니다. 생성 AI는 글이나 이미지를 만들 때 구체적인 과거의 저작물을 복사하여 붙여넣기하지 않습니다. 기본적으로 처음부터 처음부터 생성합니다. 그러나 그 기반이 되는 것은 지금까지 축적된 정보(저작물)입니다.
즉, 생성 AI가 만든 것은 저작권이 어디에 있는지 사람들의 인식적으로나 법적으로 아직 명확하지 않습니다. 그리고 생성 AI가 만든 것은 만든 본인(생성 AI)이 모방했다는 의식이 없고, 의뢰한 본인(인간)도 무엇을 참고했는지 알 수 없는 상황이 발생하여 다른 사람의 저작물과 유사할 경우 그 판단이 어려워집니다(단, 최근에는 유사하다는 것 자체를 생성 AI에게 물어보는 것 도 이루어지기 시작한 것 같습니다).

생성 AI의 저작권에 관한 세상의 동향은 충분히 주시할 필요가 있습니다.
또한 생성 AI에 국한되지 않고, 향후 또는 재학 중에도 전문 제작자로서 자신의 작품을 세상에 내놓는 사람은 먼저 유사한 디자인이나 상표가 없는지 조사할 책임이 세상에 내놓는 쪽에 있으므로, 그 리서치는 반드시 스스로 해야 합니다.

--------------------------
위험한 측면을 생각하기
편리한 측면과 가능성을 발견하는 장면이 많이 언급되는 생성 AI이지만, 우려되는 부분도 많다. 생성 AI는 사용자와의 대화도 학습하고 축적합니다. 또한, 그것은 타인의 데이터로도 활용된다. 즉, 개인정보나 기밀 정보 등 공개되어서는 안 되는 정보는 절대 입력해서는 안 된다. 한 번 입력하면 지우기가 거의 불가능하기 때문이다.

또한, 새로운 개념이나 기술의 활용에 있어서는 '자신은 악의가 없어도 자신도 모르게 타인에게 피해를 주고 있었다'는 일이 발생하기 쉽다. 생성 AI는 미래에 어떤 식으로 사용될지, 그것이 좋은 사용인지 나쁜 사용인지 아직 누구도 파악, 판단할 수 없다. 자신이 사용할 때 타인이 보기에 악의적인 이용이 되지 않는지, 타인이 악의적으로 이용했을 때 위험한 정보 공유가 되지 않는지, 약자 억압으로 이어지지 않는지 등 유연한 상상력을 가지고 대할 필요가 있다. 혐오표현이나 차별 등 일반 사회에서 유해하다고 여겨지는 언행은 입력하지 말아야 한다. 또한, 위험물 제조법 등 사람에게 해를 끼칠 수 있는 도구가 될 수 있는 지식을 입력하는 것도 삼가하여, AI 이용을 통해 사회적 위험을 적극적으로 증가시키지 않도록 양심적인 이용을 지켜주시기 바랍니다.


---------------
대학에서의 이용에 대하여
미술대학에서 배우는 '미술'과 '디자인'이라는 분야는 세상에 새로운 것, 새로운 사고방식을 제시하는 위치에 있습니다. 그리고 생성 AI도 새로운 것이며, 이것은 위에서 언급했듯이 단순히 좋은 측면과 앞으로 생각해야 할 측면이 있으며, 이러한 것들을 충분히 고려하면서 이 생성 AI를 활용한 새로운 미술과 디자인을 생각하여 세상에 제안하는 것은 미술대학으로서 매우 의의가 있다고 생각됩니다. 생각합니다. 즉, 연구-제작 대상으로서 생성 AI를 다루는 것은 적극적으로 해야 한다고 생각합니다.

단, 보고서나 논문 등을 작성할 때 생성 AI의 답변을 그대로 복사하여 제출하는 것은 금지합니다. 이는 지금까지의 '웹 검색을 통해 나온 위키피디아의 내용을 그대로 베껴온 것'이나 '선배나 친구의 리포트를 그대로 베껴온 것'과 같은 것입니다. 이곳은 대학이고, 여러분은 배움을 얻기 위해 학교에 온 것입니다. 단순히 복사한 것을 그대로 제출하는 것만으로는 배움이 일어나지 않습니다.
그렇다고 해서 생성 AI를 보고서나 논문 작성에 전혀 사용해서는 안 된다는 의미는 아닙니다. 도서관에서 찾아보거나 웹 검색엔진을 활용하는 것과 마찬가지로 배움의 계기로 활용하는 것은 의미가 있다고 생각합니다. 이 경우 인용이라는 형식으로 보고서나 논문에 명시해야 합니다.

또한, 생성 AI의 답변을 그대로 '자신의 작품(자작)으로 제출하는 것도 금지합니다. 이는 앞서 언급한 저작권 의식의 문제도 있지만, 무엇보다도 '아무 생각 없이 우연히 얻은 작품을 자작으로 제출하는 것'에는 아무런 배움이 없습니다. 어디까지나 '배움'을 중심에 두고 제작 및 연구에 임해주시기 바랍니다. 다만, 생성 AI는 새로운 분야이기 때문에 연구 대상이 될 수도 있습니다. 따라서 수업 방침에 따라 예를 들어 '생성 AI에게 작품을 만들어 달라고 하는' 과제라면, 이는 위의 금지 대상에 포함되지 않습니다.

지금까지도 웹이나 SNS, Pinterest 등을 효과적으로 활용하여 작품의 아이디어 힌트를 얻거나 보고서를 작성할 때 참고자료로 삼는 등, 이를 기점으로 다양한 학습이 이루어지고 있을 것입니다. 생성 AI에 대해서도 같은 마음으로 접근하는 것이 좋습니다. 다만, 생성 AI는 그것들과는 성격이 다르기 때문에 점차 사용법이 달라지고, 지금 우리가 생각지도 못한 활용법이 생겨날 것이라고 생각합니다. 다만, 현 단계에서는 생성 AI를 부담 없이 상담할 수 있는 친한 친구 정도의 마음으로 대하고, 어디까지나 배움이란 무엇인가를 스스로 생각하고, 조사하고, 고민하고, 자신의 손과 머리로 시제품이나 실험을 하고, 자신의 작품이나 보고서를 만든다는 의식을 가지고 제작・연구 활동에 임해주시기 바랍니다.



-----------------------------------

세계의 미술대학에서는 이와 같은 자세로 학교차원에서 임하고 있습니다.
우리도 현실로서 받아들여서 빠르게 흡수하고 나아가야햘 것입니다.

AI 모듈 주임교수