Карролит получило свое название от того места, где было обнаружено - округ Кэрролл в штате Мэриленд, США. Минерал обнаружен в гидротермальных месторождениях и часто ассоциируется с рядом других минералов, таких как пирит, халькоцит, халькопирит и многие другие. Самые красивые его октаэдрические кристаллы добываются в шахтах Демократической Республики Конго.