�u����AI���U�����󂯂�v�Ƃ͂ǂ��������ƁH�@LLM�̋��Ёg10�I�h�FLLM�́u10�僊�X�N�v�Ƒ΍�y�O�ҁz

��K�͌��ꃂ�f���iLLM�j�Ɋ�Â�������AI�c�[���̗��p���L�����Ă��邪�A�\���ɃZ�L�����e�B�΍���u�����Ɏg���Ă���g�D�����邾�낤�BLLM������u10�勺�Ёv�ƁA���S���p�̂��‚Ƃ́B

�� 2024�N07��17�� 07��00�� ���J
[Nihad Hassan�CTechTarget]

�֘A�L�[���[�h

�l�H�m�\ | �Z�L�����e�B | �Ǝ㐫


�@�l�H�m�\�iAI�j�x���_�[OpenAI��AI�`���b�gbot�uChatGPT�v�����p���Ă���uGPT�v�V���[�Y���͂��߁ALLM�̓r�W�l�X�Ɍ������Ȃ����݂ɂȂ�‚‚���B����LLM�̗��p���A���[�U�[�g�D�ɂ��܂��܂ȃ��X�N�������炷���Ƃ́A����قǍL���͒m���Ă��Ȃ��BLLM�𗘗p����ꍇ�A���ɒ��ӂ��K�v�Ȃ̂��BLLM������u10�勺�Ёv�Ƃ͉����B

LLM�́u10�勺�Ёv���ꂾ

�@�\�t�g�E�F�A�̃Z�L�����e�B����������ړI�Ƃ����c���g�DOpen Worldwide Application Security Project�iOWASP�j�́A����AI�c�[���̈��S���p�̂��߂̎��g�݂�i�߂Ă���BOWASP��LLM������Z�L�����e�B���X�N�ƁA���ꂼ��̑΍���`���Ă���BOWASP�̒�`�𓥂܂��ALLM�̃��[�U�[�g�D�����ӂ��Ȃ���΂Ȃ�Ȃ���ȍU���V�i���I���܂Ƃ߂��B

  1. �v�����v�g�C���W�F�N�V�����U��
  2. �s���o�͂𗘗p�����U��
  3. �f�[�^�|�C�Y�j���O�U��
  4. LLM�ւ�DDoS�U��
  5. LLM�̐Ǝ�i�������Ⴍ�j��
  6. �@�����̘R�����i��҂ŏЉ�j
  7. ���S�łȂ��v���O�C���i��҂ŏЉ�j
  8. LLM�ɉߏ�ȋ@�\���������邱�Ɓi��҂ŏЉ�j
  9. �ߓx�ȐM���i��҂ŏЉ�j
  10. LLM�̓���i��҂ŏЉ�j

1�D�v�����v�g�C���W�F�N�V�����U��

�@LLM�̗��p�ɍۂ��čł����ӂ��K�v�Ȃ̂́A�v�����v�g�C���W�F�N�V�����ƌĂ΂��U�����B���̎�@�ł́A�U���҂����ӂ̂���v�����v�g�i����AI�ւ̎w���j����͂���LLM�𑀍�B�f�[�^�𓐂񂾂�A�}���E�F�A�����s�����肷��B�v�����v�g�C���W�F�N�V�����U���ɂ́A�U���҂�LLM�𒼐ڑ_����@�̑��ɁA�u�ԐڍU���v������B�ԐڍU���ł͗Ⴆ�΁A�s���R�[�h���܂�Web�T�C�g�̗v����˗����āA�v�񏈗��J�n�ƂƂ��ɕs���R�[�h�����s������B

�@�v�����v�g�C���W�F�N�V�����U���̃��X�N���y�����邽�߂ɂ́A�ȉ��̑΍􂪗L�����ƍl������B

  • IAM�iID����уA�N�Z�X�Ǘ��j�c�[����p���ALLM�ւ̃A�N�Z�X�𐧌�����B
  • LLM�ɏd�v�ȕύX��������ɓ�����A�Ǘ��҂ɂ�鏳�F��K�{�ɂ���B

2�D�s���o�͂𗘗p�����U��

�@�U���҂�LLM�ւ̕s���A�N�Z�X�ɐ���������ALLM�����[�U�[�̃v�����v�g�ɑ΂��Ĉ��ӂ̂���o�͂��쐬����悤�w���ł���B���ӂ̂���o�͂ɂ��A�ȉ��̍U���̎��s���”\�ɂȂ�B

  • �N���X�T�C�g�X�N���v�e�B���O�iXSS�j
    • Web�T�C�g�ɕs���X�N���v�g�𖄂ߍ���
  • �N���X�T�C�g���N�G�X�g�t�H�[�W�F���iCSRF�j
    • ���[�U�[�ɁA���ӂ̂��郊�N�G�X�g�𑗐M������
  • �T�[�o�T�C�h���N�G�X�g�t�H�[�W�F���iSSRF�j
    • �T�[�o�ɁA���ӂ̂��郊�N�G�X�g�𑗐M������
  • �������i
    • �Ǘ��Ҍ������擾����ȂǁA��荂�ʂ̃A�N�Z�X�������擾����

�@�s���o�͂ɂ��U���̃��X�N���y�����邽�߂ɂ́A�ȉ��̑΍􂪗L�����ƍl������B

  • LLM�o�͂ɑ΂��A�[���g���X�g�i�����M�p�����A�S�Ă����؂���l�����j�Ɋ�Â����Z�L�����e�B�|���V�[��ݒ肷��B
  • OWASP�́u���͌��؃`�[�g�V�[�g�v���g���A�o�̓f�[�^�����S���ǂ��������؂���B
  • LLM�o�͂ɑ΂��A�o�̓G���R�[�f�B���O�i�������j�����s�BLLM�o�̓f�[�^���R�[�h���當���ɕϊ����A�u���E�U�������Ƃ��ĉ��߂���悤�ɂ���B

3�D�f�[�^�|�C�Y�j���O�U��

�@LLM�͈ȉ��𒆐S�ɁA���܂��܂Ȋw�K�f�[�^�𗘗p����B

  • SNS�i�\�[�V�����l�b�g���[�L���O�T�[�r�X�j��j���[�X�T�C�g�A���l���T�C�g�A�e��t�H�[�����ȂǁA�C���^�[�l�b�g�Ō��J�����R���e���c
  • ���[����`���b�g�ȂǁA�Г��O�R�~���j�P�[�V�����̃f�[�^
  • ������}�[�P�e�B���O�A�̔��̃f�[�^
  • �uUCI Machine Learning Repository�v�Ƃ��������J�f�[�^�Z�b�g

�@�U���҂�LLM�̊w�K�f�[�^�Ɉ��ӂ̂���f�[�^��}�����邱�Ƃ�LLM�����܂��A�s���Ȋw�K�������邱�Ƃ��ł���B���̎�@���A�f�[�^�|�C�Y�j���O�U���ƌĂԁB�f�[�^�|�C�Y�j���O�U���̃��X�N���y�����邽�߂ɂ́A�ȉ��̑΍􂪗L�����ƍl������B

  • �w�K�f�[�^�̃\�[�X�i��񌹁j�����؂���B���ɊO���̃f�[�^�Z�b�g�𗘗p����ꍇ�ɏd�v���B
  • �w�K�f�[�^���ǂ�����擾����̂��Ɋւ��Ĕ͈͂��`���ALLM���Ӑ}���Ȃ��ꏊ����̃f�[�^���������W���Ȃ��悤�ɂ���B
  • �ړI�ɉ����āA������LLM��p����B�قȂ�LLM�𗘗p���Ă���΁A1�‚��f�[�^�|�C�Y�j���O�U�����󂯂Ă���Q�̊g���h����B

4�DLLM�ւ�DDoS�U��

�@DDoS�i���U�^�T�[�r�X���ہj�U���Ƃ́A�U���҂��W�I�V�X�e���ɑ�ʂ̒ʐM�𑗐M���A�ߑ�ȕ��ׂɂ���ăV�X�e���̏�Q���~�������N����������w���BLLM��DDoS�U���̕W�I�ɂȂ蓾��BLLM���g�p����ɂ́A�n�[�h�E�F�A�ƃ\�t�g�E�F�A���K�v�ɂȂ�B�����ꂩ��DDoS�U���ő_����΁ALLM���g���Ȃ��Ȃ鋰�ꂪ����BLLM�ւ�DoS�U���̃��X�N���y�����邽�߂ɂ́A�ȉ��̑΍􂪗L�����ƍl������B

  • LLM�Ƀf�[�^�𑗂�ہA�f�[�^�̃t�H�[�}�b�g�╪�ʁA���e�Ȃǂ����؂���B
  • ����̃��[�U�[�iIP�A�h���X�j����̓��̓N�G���݂̂����‚��A���‚��鐔�𐧌�����B
  • ���̓f�[�^�̕��ʂ𐧌�����B
  • ��p�c�[���ɂ����SQL�C���W�F�N�V�����i���K��SQL�N�G���Ɉ��ӂ��鑀���}�����W�I�̃T�[�o�Ŏ��s������U���j�Ƃ������s���ȓ��������o���ău���b�N����B
  • �ʐM�f�[�^�ʂ������ꍇ�́A�����̃T�[�o�ɕ��ׂ𕪎U����B
  • CAPTCHA�i�䂪�ݕ�����ɂ����͔F�؁j�A�n�j�[�|�b�g�i�U���������Ƃ�ɗU������\���I���w�h��j�̃c�[���𗘗p����B

5�DLLM�̐Ǝ㐫

�@LLM�͑��̃\�t�g�E�F�A�Ɠ��l�A�����̃x���_�[���J�������R���|�[�l���g�ō\������Ă���B�����LLM�̎d�g�݂̓\�t�g�E�F�A�����ł͂Ȃ��A��������s���邽�߂̃T�[�o�𒆐S�Ƃ����C���t�����K�v�Ƃ���B�\�t�g�E�F�A��n�[�h�E�F�A�̂ǂ����ɐƎ㐫������΁A�f�[�^�����LLM�̌듮��Ȃǂ�ړI�Ƃ����U���̃��X�N�����܂�B

�@LLM�̐Ǝ㐫�����p�����U���̃��X�N���y�����邽�߂ɂ́A�ȉ��̑΍􂪗L�����ƍl������B

  • �M���ł���x���_�[�̃\�t�g�E�F�A�R���|�[�l���g�݂̂��g�p����B
  • �R���|�[�l���g�𗘗p����O�ɁA�T���h�{�b�N�X�i�e�X�g�‹��j���g���Ĉ��S���ǂ������m�F����B
  • �v���O�C���i�g���@�\�j��LLM�ɑg�ݍ��ޑO�ɁA���S���ǂ������e�X�g����B
  • �Í����ɂ���ăf�[�^��ی삷��B

�@��҂́A6�–ڈȍ~�̃��X�N�����グ��B

TechTarget���@����IT�g�����h

�č�TechTarget�̖L�x�ȋL���̒�����A�ŐV�Z�p����⒍�ڕ���̐��i��r�A�C�O��Ƃ�IT���i��������Ȃǂ����I���Ă��͂����܂��B

Copyright © ITmedia, Inc. All Rights Reserved.

From Informa TechTarget

܂畷ȂuzfXNgbvvƁuVDIv̈ႢƂ

���܂��畷���Ȃ��u���z�f�X�N�g�b�v�v�ƁuVDI�v�̈Ⴂ�Ƃ�
���u�̃N���C�A���g�[������A�T�[�o�ɂ���f�X�N�g�b�v�‹��𗘗p�ł���d�g�݂ł��鉼�z�f�X�N�g�b�v�i���zPC��ʁj�͕֗������A�d�g�݂����G���B���z�f�X�N�g�b�v�̎d�g�݂���b����m�F���悤�B

ITmedia �}�[�P�e�B���O�V���L��

news023.png

�u�p�[�\�i���C�[�[�V�����v���uA�^B�e�X�g�v�c�[�������TOP5�i2025�N5���j
���T�́A�p�[�\�i���C�[�[�V�������i�ƁuA�^B�e�X�g�v�c�[���̍�������؊eTOP5���Љ...

news025.png

�u�}�[�P�e�B���O�I�[�g���[�V�����v�@���������TOP10�i2025�N5���j
���T�́A�}�[�P�e�B���O�I�[�g���[�V�����iMA�j�c�[���̔����TOP10���Љ�܂��B

news014.png

�u�T�C�g�������v���u���C�u�`���b�g�v�����TOP5�i2025�N4���j
���T�́A�T�C�g�������c�[���ƃ��C�u�`���b�g�̍��������TOP5�����ꂼ��Љ�܂��B

OSZAR »