a can of wormsはミミズやイモムシのようなもぞもぞ動く虫(worm)の入った缶(can)で,そんなものを開けたら,虫がはい出してきて,厄介なことになるということから,I don't want to open a can of worms.は「厄介な問題を引き起こしたくない」という意味で使います.
「英会話例文」 A: Why are you so hesitate to tell me?「A:どうしてそんなに躊躇して話すの?」 B: Because I don't want to open a can of worms.「B:だって,厄介な問題を引き起こしたくないからだよ。」