dockerで (container name) is already in use by container とエラーになった時の対処法

問題

container起動しようと思ったら、すでに使われているので、削除またはリネームしてくれと言われた。

You have to remove (or rename) that container to be able to reuse that name.

対処法

コンフリクトが起こっているコンテナ名を一旦削除することで解消

docker rm コンテナ名

お願い

docker再起動させた時とか、毎回コンテナ名のコンフリクト起こっているのでなんとかしたいです。
他の対処法ご存知の方いたら教えてください。。。