1.기업 IT 동향조사 2024
IT 예산 DI 값은 23년도 계획에서 38.8포인트를 나타냈으며, 계획치로서는 과거 10년간 최고치였습니다. 24년도에도 38.0포인트로 높은 수준을 유지할 것으로 예측됩니다.
IT 투자로 해결을 원하는 “단기적인” 경영 과제로 “업무 프로세스 효율화”가 22년도에 계속 상위를 차지하였으며, 2위인＇보안 강화＇에 대해서는 지속적으로 상승할 경향이 보입니다.
최근 주목도가 높아진 “언어계 생성 AI”에 관해서는, 매출 1조엔 이상의 기업에서 적극적인 도입이 확인되었습니다.
2.요약
이번에는, “기업 IT 동향조사 2024” 결과에 대해 해당 기업과 관련된 정보에 대해 알려 드렸습니다.
IT 예산 DI 값은 23년도 계획에서 38.8포인트였으며, 계획치로서는 과거 10년간 기록 중 최고치를 달했습니다. 24년도는 38.0포인트로, 높은 수준으로 지속될 것이라고 예측되고 있습니다.
IT 투자로 해결을 원하는 “단기적” 경영 과제에서는 “업무 프로세스의 효율화”가 22년도에 계속해서 상위권에 달했으며, 2위였던 “보안 강화”는 최근에 계속해서 상승할 경향으로 보입니다.
IT 투자로 해결을 원하는 “중장기적인” 경영 과제에서는, 사업 영역에 IT 투자를 위한 선택지가 상위(2위 ·3위)에 머무는 결과가 되었습니다. 또한,‘보안 강화’의 순위가 상승하고 있으며, 보안에 대한 대처가 단기적인 대응으로 완수된 것이 아니라, 중장기에서 있어서 다뤄야 할 경영과제라는 의식이 양성되었음을 알 수가 있습니다.
최근 주목도가 높아진 “언어계 생성 AI”에 관해서, 매출 1조엔 이상의 기업에서의 적극적인 도입이 확인되었습니다. 이용 목적이나 용도에 대해서는 압도적인 비율로 생산성 향상에 있었습니다.
Appendix 주목의 시장·제품
생성AI용 DLP 서비스에 대한 소개
일본 프루프 포인트, 생성 AI용의 정보 유출 대책을 발표
일본 프루프 포인트 주식회사는 5월 7일, 생성 AI 활용 사례 포함 DLP Transform을 일반 제공한다고 발표했습니다.
생성 AI 도구는 사용자가 보낸 데이터를 기반으로 모델을 훈련하는 경향이 있으며 프롬프트 엔지니어링을 통해 기밀 정보를 공개하는 경향이 있기 때문에 생성 AI 도구에 기밀 데이터를 유출하는 것은 기밀 데이터를 공개하는 것과 같습니다. 많은 조직에서 개인 정보 보호 및 내부 규정 위반을 방지하기 위해 허용 가능한 생성 AI 사용 정책을 작성하여 기밀 정보 및 고객 정보 생성 AI 도구나 Chabot에 업로드 되지 않도록 조치하고 있습니다.
Proofpoint DLP Transform에서는, 직원의 행동과 입력 된 콘텐츠를 기반으로 생성 AI 도구와의 교환을 허가·불허하는 것으로, 모든 채널에서 정책의 실시가 가능해집니다. 소스 코드 파일 업로드 및 기업 지적 재산 붙여 넣기 등의 인시던트를 감지하여 차단, 경고가 가능하며, 최종 사용자에게 기업 이용 정책을 통지하거나 주의를 촉구함으로써 이용 정책을 인식하고 준수를 강화할 수 있습니다.
OpenAI의 ChatGPT나 Google Gemini 등의 생성 AI 도구에 입력된 콘텐츠에 대한 브라우저 기반 확장 프로그램으로 DLP Transform을 보강하고, 2024년도 제2분기 말까지 이용할 수 있게 할 예정입니다.
KELA, 생성 AI 보안 솔루션 ’AiFort’ 제공시작
KELA 주식회사는 4월 19일, 생성 AI 보안 솔루션 ‘AiFort’를 당일부터 국내 판매 개시한다고 발표했습니다.
생성 AI 플랫폼에 대한 공격은, 생성 지시(프롬프트)의 악용에 의해 기밀 정보를 절취하는 ‘프롬프트 인젝션’, 교묘한 지시를 주어 부적절(공격적·유해)한 콘텐츠를 표시시키는 ‘제일 브레이크’, 내부적으로 설정된 프롬프트 등 지적 재산을 도취하는 ‘프롬프트릭’, 그럴듯한 오정보를 출력하는 ‘할시네이션’ 등 전 세계에서 많은 범죄 사례가 발생하고 있다.
‘AiFort‘는 AI/대규모 언어 모델(LLM) 안전, 보안, 개인 정보 보호의 3가지의 관점에서 보호하기 위해, AI 모델 학습용 데이터 세트나 모의 공격 등을 제공합니다. 개발부터 운영까지 MLOps라이프 사이클 전반을 커버하고 안전한 생성 AI 모델을 구축·운용할 수 있도록 지원합니다.
“AiFortsuite”는 아래 3가지 기능 과 서비스를 제공하는 모듈로 구성되어 있습니다.
1.AiFort Data:AI교육 데이터 세트
생성 AI 모델 교육에 사용되는 위협 인텔리전스를 기반으로 하는 데이터 세트입니다.
최신 위협 동향과 범죄 기술 등을 반영한 ‘AiFort Data’를 이용하여 생성 AI 모델을 학습시켜 보안을 강화할 수 있습니다.
2.AiFort Red:레드팀 서비스
AI 모델의 취약성이나 보안 위험이 없거나 신뢰성과 안전성을 진단하기 위한 위협 인텔리전스를 기반으로 하는 어드버서리 에뮬레이션(공격 모방 프로그램)은 사용자가 간단한 작업으로 테스트 계획을 만들고 계획에 따라 ‘AiFort Red’가 모의 공격을 실행해, 유저는 분석·진단 결과를 대시보드로 파악할 수 있습니다.
3.AiFort Protect:프롬프트 필터링
악의가 있는 부정한 프롬프트 입력을 실시간으로 검지·통지하여 프롬프트 인젝션이나 데이터 유출, 해킹 등의 부정 행위를 방지합니다.
‘AiFort Suite‘는 4월 19일부터 클라우드 온프레미스에서 제공되며 모듈 단위 연액은 300만 엔부터입니다.
