Iniciando um breve tutorial sobre o git e o github
O readme é um arquivo especial no repositório que é renderizado na página principal para mostrar informações pertinentes sobre o projeto/repositório em questão.
O readme é feito em Markdown que é uma linguagem de marcação. Para mais detalhes, consultar a página do Markdown na wikipedia.
Um bom tutorial sobre Markdown pode ser encontrado aqui.