Como instalar o gem do código fonte do GitHub?

Caso você esteja usando o bundler, você precisa adicionar algo assim ao seu Gemfile:

gem 'redcarpet', :git => 'git://github.com/tanoku/redcarpet.git'

E caso haja um .gemspecarquivo, ele deve ser capaz de buscar e instalar a gema durante a execução bundle install.

UPD. Conforme indicado nos comentários, para que o Bundler funcione corretamente, você também precisa adicionar o seguinte a config.ru:

require "bundler" 
Bundler.setup(:default)