1) Início
O PHP é uma linguagem interpretada, ou seja, ela você pode fazer o script mesmo no bloco de notas e já rodar, ao contrário de linguagens como o C/C++ que é compilada, e necessitam de um programa para serem compilados num .exe por exemplo.É uma linguagem voltada completamente para a Internet* e é orientada a objetos.

2) Delimitadores
No PHP, para se iniciar códigos existem três formas:
<?
<%
<?php
E para fechar o código:
?>
%>
Mas evitem de usar os <% e %> pois acho que deve se configurar no php.ini.
Todo o conteúdo do PHP e posto por esses delimitadores.
Usem o <?php e ?> pois muito servidor por aí não aceita esses dois outros modos.

3) Variáveis
Variáveis eu costumo falar que são "adjetivos", elas dão nome as coisas. E sua principal função, é facilitar a vida do programador. O ato de declarar, tão falado lá na OTFans etc, é simplesmente o fato de por um valor a uma variável.
Exemplos de variáveis:

$algo = "Olá";
$outracoisa "Todos!";

Note que sempre são seguidas do símbolo $.
Note que a varíavel "algo" tem como valor "Olá" e a variável "outracoisa" tem como valor "Todos!", e a ";" tem função de delimitar o fim da linha, se caso não fosse colocado, ela procuraria por mais valores, e como não teria, imprimiria um erro de sintaxe.

5) Comentários
Para se escrever comentários no código, para facilitar e quem sabe organizar o código, usamos:

// Comentário
para linha única


/*
para linhas
múltiplas
*/


4) Funções
No PHP, existem várias funções para facilitar a vida do programador, mas é possível "fazer" algumas também. Existe milhares, por isso não falarei de cada uma, pois você pode checar no site oficial do PHP: PHP.net.

Vamos um exemplo da função de "escrever na tela", o echo:
<?php
echo "Olá Mundo!"; // Clássico exemplo
?>

Vejamos, iniciamos o código com os delimitares, colocamos a função echo com o texto dentro de aspas e fechamos com o ";".

Um outro exemplo usando uma varíavel:

<?php
$texto = "Olá Mundo!";
echo $texto;
?>


Neste caso, é uma variável, por isso não usamos as aspas, se não imprimiria "$texto" e não o conteúdo da variável. Vejam que a variável é declarada antes para que seja interpretada logo a seguir.

Caso você esteja iniciando o código com um echo, podemos substuir pelo = que é um "atalho"
Ex:
<?= "Olá Mundo"; ?>

Um último exemplo da função echo:

<?
echo <<<TEXTO
Olá Mundo
Olá todos
Olá gente
TEXTO;
?>


Impomos um valor "TEXTO" e o interpretador só termina quando vê o final "TEXTO;"
Essa é uma forma pouco usada, por isso quis destacá-la aqui, podemos usar multilinhas e ainda podemos usar aspas a vontade sem se preocupar com nada, vejamos qual seria essa "preocupação".

<?php
$texto = "mundo";
echo "Olá" . $texto;
?>

Nesse caso usamos um texto definido diretamente, e uma variável anteriormente declarada. Para podermos "unir" para exibir uma mensagem só, usamos o concadenador "."

*Excessão do PHP-GTK