São Paulo elegeu o seu primeiro Prefeito somente em 1954, quando conquistou a emancipação política. Até então, os responsáveis pela administração eram os próprios Governadores, que nomeavam seus Prefeitos. Foi responsável pela administração de São Paulo quando foi interventor, de 1938 a 41, como Governador eleito, de 1947 a 51, e finalmente, de 1957 a 61, eleito Prefeito por eleição direta. Quando interventor, criou o Departamento das Municipalidades, para planejar e gerenciar as administrações.
Manteve no cargo Francisco Prestes Maia, Prefeito nomeado por seu antecessor. Para quem tudo devia ser planejado, deu todo apoio e recurso que Maia necessitava para melhorar a capital.
Em suas gestões, realizou muitas obras para e pelo Estado e que também contribuíram para renovar a paisagem paulistana. Cabe mencionar o edifício do Banco do Estado de São Paulo; a Biblioteca Municipal; o edifício da Caixa Econômica Federal de São Paulo; o prédio do Instituto de Previdência do Estado; Edifício da Secretaria da Fazenda. Muitas de suas obras são referências nacionais como o novo Viaduto do Chá e Parque do Anhangabaú, o Túnel e a Avenida Nove de Julho, as Avenidas Celso Garcia, Tiradentes, Campos Elíseos, Radial Leste, Itororó (23 de Maio). A urbanização do Rio Tietê e a canalização de vários de seus afluentes – que além de provocarem inundações estavam sendo transformados em esgotos a céu aberto – aliadas à construção de galerias pluviais foram outras das suas preocupações. Foram construídas em suas administrações as pontes das Bandeiras, Casa Verde, da Lapa, do Limão.
O turismo urbano também foi incentivado por Adhemar. Em 1940, adquiriu terras e criou um parque no Pico do Jaraguá, preservando a mata nativa numa extensão de 45 milhões de metros quadrados.
Em 1939, criou o Departamento de Zoologia da Secretaria de Agricultura, que assumiu a seção de zoologia do Museu Paulista, com a denominação de Museu de Zoologia. Em 1969, integrou-se à USP. Em 1947, criou o Conselho de Orientação Artística para promover e coordenar atividades artísticas. Nesse mesmo ano, inaugurou o VII Salão Paulista de Belas Artes. Foi também o responsável pela reforma da estrutura do Museu Paulista, no Ipiranga, que é subordinado a USP.
Em 1940, liberou recursos para a construção e habilitação da Biblioteca Municipal Mário de Andrade. Também construiu, na capital, um número expressivo de escolas, faculdades, centros culturais, instituições que contribuíram para transformar a cidade no principal pólo cultural do país. Instituiu o Departamento de Educação Física – DEF – e o complexo olímpico da Água Branca, hoje denominado Baby Barioni. O Autódromo de Interlagos – inaugurado em novembro de 1939 – foi o primeiro a ser construído no Brasil. O Estádio Municipal do Pacaembu e a sua Praça de Esportes foram inaugurados em 1940.