IPP Software Navigation Tools IPP Links Communication Pan-STARRS Links

Changeset 15998


Ignore:
Timestamp:
Jan 4, 2008, 11:16:26 AM (18 years ago)
Author:
eugene
Message:

shock: native FITS 8 bit is unsigned, not signed!

File:
1 edited

Legend:

Unmodified
Added
Removed

  • trunk/Ohana/src/libfits/matrix/F_convert_format.c

    r15487 r15998  
    6464    switch (inBitpix) {
    6565    case 8:
    66       { typedef char inMode;
    67         switch (outBitpix) {
    68         case 8:   { typedef char           outMode; CONVERTSAME; break; }
     66      { typedef unsigned char inMode;
     67        switch (outBitpix) {
     68        case 8:   { typedef unsigned char  outMode; CONVERTSAME; break; }
    6969        case 16:  { typedef short          outMode; CONVERTUP;   break; }
    7070        case -16: { typedef unsigned short outMode; CONVERTUP;   break; }
    … …  
    7878      { typedef short inMode;
    7979        switch (outBitpix) {
    80         case 8:   { typedef char           outMode; CONVERTDOWN; break; }
     80        case 8:   { typedef unsigned char  outMode; CONVERTDOWN; break; }
    8181        case 16:  { typedef short          outMode; CONVERTSAME; break; }
    8282        case -16: { typedef unsigned short outMode; CONVERTSAME; break; }
    … …  
    9090      { typedef unsigned short inMode;
    9191        switch (outBitpix) {
    92         case 8:   { typedef char           outMode; CONVERTDOWN; break; }
     92        case 8:   { typedef unsigned char  outMode; CONVERTDOWN; break; }
    9393        case 16:  { typedef short          outMode; CONVERTSAME; break; }
    9494        case -16: { typedef unsigned short outMode; CONVERTSAME; break; }
    … …  
    102102      { typedef int inMode;
    103103        switch (outBitpix) {
    104         case 8:   { typedef char           outMode; CONVERTDOWN; break; }
     104        case 8:   { typedef unsigned char  outMode; CONVERTDOWN; break; }
    105105        case 16:  { typedef short          outMode; CONVERTDOWN; break; }
    106106        case -16: { typedef unsigned short outMode; CONVERTDOWN; break; }
    … …  
    114114      { typedef float inMode;
    115115        switch (outBitpix) {
    116         case 8:   { typedef char           outMode; CONVERTDOWN; break; }
     116        case 8:   { typedef unsigned char  outMode; CONVERTDOWN; break; }
    117117        case 16:  { typedef short          outMode; CONVERTDOWN; break; }
    118118        case -16: { typedef unsigned short outMode; CONVERTDOWN; break; }
    … …  
    126126      { typedef double inMode;
    127127        switch (outBitpix) {
    128         case 8:   { typedef char           outMode; CONVERTDOWN; break; }
     128        case 8:   { typedef unsigned char  outMode; CONVERTDOWN; break; }
    129129        case 16:  { typedef short          outMode; CONVERTDOWN; break; }
    130130        case -16: { typedef unsigned short outMode; CONVERTDOWN; break; }
    … …  
    139139    switch (inBitpix) {
    140140    case 8:
    141       { typedef char inMode;
    142         switch (outBitpix) {
    143         case 8:   { typedef unsigned char   outMode; CONVERTSAME; break; }
     141      { typedef unsigned char inMode;
     142        switch (outBitpix) {
     143        case 8:   { typedef         char   outMode; CONVERTSAME; break; }
    144144        case 16:  { typedef unsigned short  outMode; CONVERTUP;   break; }
    145145        case -16: { typedef unsigned short  outMode; CONVERTUP;   break; }
    … …  
    153153      { typedef short inMode;
    154154        switch (outBitpix) {
    155         case 8:   { typedef unsigned char   outMode; CONVERTDOWN; break; }
     155        case 8:   { typedef         char   outMode; CONVERTDOWN; break; }
    156156        case 16:  { typedef unsigned short  outMode; CONVERTSAME; break; }
    157157        case -16: { typedef unsigned short  outMode; CONVERTSAME; break; }
    … …  
    165165      { typedef unsigned short inMode;
    166166        switch (outBitpix) {
    167         case 8:   { typedef unsigned char   outMode; CONVERTDOWN; break; }
     167        case 8:   { typedef         char   outMode; CONVERTDOWN; break; }
    168168        case 16:  { typedef unsigned short  outMode; CONVERTSAME; break; }
    169169        case -16: { typedef unsigned short  outMode; CONVERTSAME; break; }
    … …  
    177177      { typedef int inMode;
    178178        switch (outBitpix) {
    179         case 8:   { typedef unsigned char   outMode; CONVERTDOWN; break; }
     179        case 8:   { typedef         char   outMode; CONVERTDOWN; break; }
    180180        case 16:  { typedef unsigned short  outMode; CONVERTDOWN; break; }
    181181        case -16: { typedef unsigned short  outMode; CONVERTDOWN; break; }
    … …  
    189189      { typedef float inMode;
    190190        switch (outBitpix) {
    191         case 8:   { typedef unsigned char   outMode; CONVERTDOWN; break; }
     191        case 8:   { typedef         char   outMode; CONVERTDOWN; break; }
    192192        case 16:  { typedef unsigned short  outMode; CONVERTDOWN; break; }
    193193        case -16: { typedef unsigned short  outMode; CONVERTDOWN; break; }
    … …  
    201201      { typedef double inMode;
    202202        switch (outBitpix) {
    203         case 8:   { typedef unsigned char   outMode; CONVERTDOWN; break; }
     203        case 8:   { typedef         char   outMode; CONVERTDOWN; break; }
    204204        case 16:  { typedef unsigned short  outMode; CONVERTDOWN; break; }
    205205        case -16: { typedef unsigned short  outMode; CONVERTDOWN; break; }
    … …  
    216216      { typedef unsigned char inMode;
    217217        switch (outBitpix) {
    218         case 8:   { typedef char           outMode; CONVERTSAME; break; }
     218        case 8:   { typedef unsigned char  outMode; CONVERTSAME; break; }
    219219        case 16:  { typedef short          outMode; CONVERTUP;   break; }
    220220        case -16: { typedef unsigned short outMode; CONVERTUP;   break; }
    … …  
    228228      { typedef unsigned short inMode;
    229229        switch (outBitpix) {
    230         case 8:   { typedef char           outMode; CONVERTDOWN; break; }
     230        case 8:   { typedef unsigned char  outMode; CONVERTDOWN; break; }
    231231        case 16:  { typedef short          outMode; CONVERTSAME; break; }
    232232        case -16: { typedef unsigned short outMode; CONVERTSAME; break; }
    … …  
    240240      { typedef unsigned short inMode;
    241241        switch (outBitpix) {
    242         case 8:   { typedef char           outMode; CONVERTDOWN; break; }
     242        case 8:   { typedef unsigned char  outMode; CONVERTDOWN; break; }
    243243        case 16:  { typedef short          outMode; CONVERTSAME; break; }
    244244        case -16: { typedef unsigned short outMode; CONVERTSAME; break; }
    … …  
    252252      { typedef unsigned int inMode;
    253253        switch (outBitpix) {
    254         case 8:   { typedef char           outMode; CONVERTDOWN; break; }
     254        case 8:   { typedef unsigned char  outMode; CONVERTDOWN; break; }
    255255        case 16:  { typedef short          outMode; CONVERTDOWN; break; }
    256256        case -16: { typedef unsigned short outMode; CONVERTDOWN; break; }
    … …  
    264264      { typedef float inMode;
    265265        switch (outBitpix) {
    266         case 8:   { typedef char           outMode; CONVERTDOWN; break; }
     266        case 8:   { typedef unsigned char  outMode; CONVERTDOWN; break; }
    267267        case 16:  { typedef short          outMode; CONVERTDOWN; break; }
    268268        case -16: { typedef unsigned short outMode; CONVERTDOWN; break; }
    … …  
    276276      { typedef double inMode;
    277277        switch (outBitpix) {
    278         case 8:   { typedef char           outMode; CONVERTDOWN; break; }
     278        case 8:   { typedef unsigned char  outMode; CONVERTDOWN; break; }
    279279        case 16:  { typedef short          outMode; CONVERTDOWN; break; }
    280280        case -16: { typedef unsigned short outMode; CONVERTDOWN; break; }
    … …  
    289289    switch (inBitpix) {
    290290    case 8:
    291       { typedef unsigned char inMode;
    292         switch (outBitpix) {
    293         case 8:   { typedef unsigned char   outMode; CONVERTSAME; break; }
     291      { typedef char inMode;
     292        switch (outBitpix) {
     293        case 8:   { typedef char            outMode; CONVERTSAME; break; }
    294294        case 16:  { typedef unsigned short  outMode; CONVERTUP;   break; }
    295295        case -16: { typedef unsigned short  outMode; CONVERTDOWN; break; }
    … …  
    303303      { typedef unsigned short inMode;
    304304        switch (outBitpix) {
    305         case 8:   { typedef unsigned char   outMode; CONVERTDOWN; break; }
     305        case 8:   { typedef char            outMode; CONVERTDOWN; break; }
    306306        case 16:  { typedef unsigned short  outMode; CONVERTSAME; break; }
    307307        case -16: { typedef unsigned short  outMode; CONVERTDOWN; break; }
    … …  
    315315      { typedef unsigned short inMode;
    316316        switch (outBitpix) {
    317         case 8:   { typedef unsigned char   outMode; CONVERTDOWN; break; }
     317        case 8:   { typedef char            outMode; CONVERTDOWN; break; }
    318318        case 16:  { typedef unsigned short  outMode; CONVERTSAME; break; }
    319319        case -16: { typedef unsigned short  outMode; CONVERTDOWN; break; }
    … …  
    327327      { typedef unsigned int inMode;
    328328        switch (outBitpix) {
    329         case 8:   { typedef unsigned char   outMode; CONVERTDOWN; break; }
     329        case 8:   { typedef char            outMode; CONVERTDOWN; break; }
    330330        case 16:  { typedef unsigned short  outMode; CONVERTDOWN; break; }
    331331        case -16: { typedef unsigned short  outMode; CONVERTDOWN; break; }
    … …  
    339339      { typedef float inMode;               
    340340        switch (outBitpix) {               
    341         case 8:   { typedef unsigned char   outMode; CONVERTDOWN; break; }
     341        case 8:   { typedef char            outMode; CONVERTDOWN; break; }
    342342        case 16:  { typedef unsigned short  outMode; CONVERTDOWN; break; }
    343343        case -16: { typedef unsigned short  outMode; CONVERTDOWN; break; }
    … …  
    351351      { typedef double inMode;             
    352352        switch (outBitpix) {               
    353         case 8:   { typedef unsigned char   outMode; CONVERTDOWN; break; }
     353        case 8:   { typedef char            outMode; CONVERTDOWN; break; }
    354354        case 16:  { typedef unsigned short  outMode; CONVERTDOWN; break; }
    355355        case -16: { typedef unsigned short  outMode; CONVERTDOWN; break; }
Note: See TracChangeset for help on using the changeset viewer.