Quanto à abordagem automatizada, o comando file é a recomendação clássica. É uma ferramenta que tenta adivinhar o tipo de arquivo a partir dos dados contidos no arquivo. Ele implementa muitas das assinaturas de formato de arquivo conhecidas via libmagic. Se você tiver um arquivo composto, você pode tentar binwalk, que tentará encontrar arquivos como subconjuntos de um arquivo maior.

Se você deseja seguir a rota manual, você precisa encontrar algum subconjunto do arquivo para uma assinatura ou padrão conhecido. Isso se aplica especialmente quando se trata de formatos de arquivo que provavelmente serão compactados, pois os padrões de dados serão menos regulares. Portanto, você geralmente precisa encontrar um padrão, geralmente chamado de assinatura ou impressão digital, na estrutura do arquivo. A maioria dos formatos de arquivo tem números mágicos no cabeçalho ou rodapé do arquivo para tornar mais fácil para os programas verificarem que tipo de arquivo estão prestes a carregar. Existem alguns bons recursos para assinaturas de arquivos bem conhecidas:

• Lista de assinaturas de arquivos de Garry Kesslers
• Lista de arquivos da Wikipedia assinaturas
• O banco de dados de assinatura de arquivo

As sugestões de Peter são, como sempre, excelentes. Eu gostaria de adicionar alguns pontos.

• se você tiver acesso a algum programa usando esse formato, você pode sempre fazer engenharia reversa para descobrir detalhes sobre o formato ou mesmo apenas o assinaturas que está procurando (assumindo, por exemplo, que contém amostras de som, mas é um formato proprietário e não conhecido)
  • isso também pode dar pistas sobre as bibliotecas usadas para acessar o formato que por sua vez dá pistas sobre o formato (pense IDA FLIRT / FLAIR)
• caso contrário, um reprodutor de mídia como o VLC também pode ser um bom método para descobrir detalhes ( Ctrl + J e Ctrl + I ). Ou seja, você simplesmente tenta abri-lo e ver quais informações de mídia o player pode fornecer. Bons jogadores não vão forçar você a colocar uma extensão de arquivo específica no arquivo antes de abri-lo. Mas tome cuidado com possíveis explorações (ou seja, faça isso em um ambiente sandbox)

Além das boas sugestões nas outras respostas, aqui estão algumas sugestões específicas para áudio:

• Se você sabe quanto tempo é o tempo de reprodução do áudio (aproximadamente), calcule o valor aproximado taxa de bits do arquivo de áudio. Isso dirá se ele está compactado ou não, e a taxa de compactação pode dizer aproximadamente com o que você está lidando. Por exemplo, 4 kbps ~ 32 kbps é indicativo de um codec de voz, 64 ~ 256 kbps é áudio compactado comum (AAC / MP3 / Ogg Vorbis), 512 ~ 3072 kbps provavelmente significa um codec sem perdas e substancialmente mais alto significa não compactado ou compactado fracamente (por exemplo, ADPCM, PCM) áudio. Por sua vez, isso pode indicar o que ele contém (fala, música, efeitos sonoros, etc.).
• Se você suspeitar que pode estar compactado fracamente, tente abrir o arquivo como um fluxo PCM bruto em seu editor de áudio favorito (por exemplo, Audacity) e ouvi-lo. Provavelmente haverá uma quantidade insana de ruído se for compactado de alguma forma, mas alguns formatos (por exemplo, ADPCM) ainda podem ser audíveis nesta circunstância se tiverem uma taxa de bits relativamente constante. Já usei essa tática no passado para descobrir o conteúdo falado de uma amostra de áudio (ainda desconhecida) que recebi. Na verdade, essa tática pode até revelar o conteúdo de arquivos mal criptografados e descompactados, explorando o reconhecimento de padrão humano.
• Verifique se há fragmentos de metadados no arquivo - strings , um rápido exame de o primeiro e o último fragmentos do arquivo em um editor hexadecimal, ou apenas procurando por strings que você possa esperar ver.