Тут нагуглил, оказываются есть препараты специальные! На основе кислот, размягчают бетон.
http://ogodom.ru/rastvoritel-betona-sredstvo-udalenija-smyvka.html
http://www.guardindustrie.ru/ochistiteli-i-propitki/chistyawie_sredstva_sredstva_dlya_uborki/bio_decapbeton_guard_concentrat

Но как на это все краска отреагирует.