Carlos V estuvo en varias ocasiones en Palamós. La primera el 30 y 31 de julio de 1529; la segunda, el 5 y 6 de diciembre de 1536, donde descansó después de la campaña militar de Provenza. Por último, el emperador visitó Palamós entre del 4 al 6 de mayo de 1543, cuando redactó las famosas instrucciones destinadas a su hijo y sucesor Felipe II. En su puerto desembarcó Francisco I de Francia cuando llegó a España como prisionero de Carlos V en el año 1526. Durante el reinado de Carlos V se produjo en 1543 el ataque de la escuadra turca de Barbarroja que conquistó la ciudad.