생성형 인공지능(AI) 챗GPT 보고 말하고 들을 수 있어, AI 통한 범죄 우려도 제기

 

생성형 인공지능(AI) 챗GPT가
보고 말하고 들을 수 있게 되어
전문가들이 나날이 발전하는 AI 기술에 대한
우려도 표하고 있습니다.

현재까지는 프롬프트 등을 통해 대화해 왔으나
새로운 기능인 ‘듣고 말하는 기능’을 통해
챗GPT는 이용자와 음성을 통하여
질문과 답변을 주고받을 수 있게 되었는데요.

 

 

이는 음성으로 질문하면 챗GPT가 텍스트로 변환해
대규모 언어 모델(LLM)에 전달하고,
답변을 받아 다시 음성으로 변환해 말하는 구조입니다.

사용자는 5가지 형태로 제공되는
챗GPT 음성 중 하나를 선택할 수 있습니다.

 

챗GPT, 이미지 보고 답하는 기능 탑재

 

 

아울러 챗GPT는 이미지를 보고 답하는 기능도 탑재됩니다.
이용자가 사진을 찍거나 이미지를 올린 후
관련된 질문을 하면 챗GPT가 답을 해주는 형태입니다.

오픈AI는 안전하고 유익한 AGI(범용인공지능)를
구축하는 것을 목표로 한다고 밝혔지만
일부 전문가는 AI의 발전이 사회에 어떤 작용을
초래할지 모른다고 우려하고 있습니다.

 

전문가들, 챗GPT 새 기능에 범죄 악용 우려

 

 

전문가들은 챗GPT가 이번에 공개한 음성 합성 기술 등이
딥페이크 등 사이버 범죄에 악용될 수 있다고 우려합니다.

워싱턴포스트(WP)에 따르면 전문가들은
사용자들과 새로운 AI 기술과의 상호 작용은 갈수록 발전하겠지만
사회에 어떤 영향을 미칠지는 아직 알 수 없다고
지적하고 있습니다.

 

 

특히 AI 연구자들은 챗GPT의 답변이
인간과 유사해 보인다는 점에서
사용자들이 챗봇을 의인화할 가능성이
높다는 점도 경고했습니다.

이는 일부 확인이 되지 않은 정보도
사용자의 입장에서는 쉽게 발아들이게 되면서
AI 기능에 대한 잘못된 신뢰를
심어줄 수 있다는 주장인데요.

현재 대부분의 AI 기능들이 방대한 정보를 모아 구성하고
마치 이를 실제인 것처럼 전달하는 과정을
전문가들은 위험한 ‘환각’이라고 부른다는 것입니다.

 

 

이에 따라 사용자들은 AI 기능에 대한
잘못된 신뢰를 하지 않도록 유의하고
정보를 선별하여 받아들이는 것이 중요하겠습니다.

 

 

챗GPT를 통한 딥페이크 등
사이버 범죄에 노출될 우리 아이가 걱정된다면,
사이버안심존(통합) 앱을 통해
각종 사이버 범죄를 예방할 수 있습니다.

 

 

우리 아이 스마트폰 안심 지킴이,
사이버안심존 (통합)앱은
청소년 유해 정보를 차단해주는 기능이 있는데요.

국내 오픈마켓 원스토어에서
‘사이버안심존(통합)’을 검색하여
다운로드 및 설치할 수 있습니다.

 

 

부모용, 자녀용 사이버안심존(통합) 앱을
다운로드 및 설치하면
부모용 앱에서 몸캠피싱 관리, 음란성채팅 의심문자,
유해동영상 감지기록 등의 기능으로
아이를 사이버 범죄의 위협에서 지켜줄 수 있답니다.

사이버안심존(통합) 앱의 다양한 기능과 함께
사이버 범죄로부터 우리 아이를 보호하시길 바라며,
챗GPT와 관련된 자세한 내용은
기사를 통해서 확인해 보시기 바랍니다!

 

https://bit.ly/3FhaXYg